Lokale KI für Datensouveränität
Die BECONEX AI Suite läuft in Ihrem eigenen Netzwerk.
Ein Windows-Server hostet die Tungsten AutoStore-Plattform und die Komponenten zur Dokumentenverarbeitung. Die Sprachmodelle und deren Laufzeitumgebung werden auf einem GPU-Server als lokale KI betrieben. So werden Anforderungen an die Datensouveränität unterstützt.
Die Dokumente und die extrahierten Daten werden innerhalb Ihrer Infrastruktur übertragen; es sind keine externen KI-Dienste erforderlich.
Bereitstellung der BECONEX AI Suite
Windows Server
Tungsten (Kofax) AutoStore
- Texterkennung (OCR) 1
- BECONEX AI Suite 2
- BECONEX WebView 3
- Führt den Workflow aus
- Sendet Anfragen an das Modell
- Speichert Ergebnisse
- Übergibt Dokumente an Zielsysteme
- Tungsten AutoStore (siehe Anforderungen)
- IIS mit URL Rewrite und Application Request Routing sowie Python 3.11 (64-Bit, systemweit) 3
- Zertifikate für die sichere Kommunikation zwischen Webdiensten (optional)
GPU-Server
Ollama
- Sprachmodelle
- Vision-Modelle
- Beantwortet die Modellanfragen der Komponenten
- Ollama (siehe Anforderungen), Version 0.31.2 oder neuer
- GPU mit ausreichend Speicher für das gewählte Modell
- Netzwerkzugriff vom AutoStore-Server aus
Die OCR erfolgt lokal im BECONEX Converter – noch vor AutoStore – oder innerhalb der OCR-Komponente; es wird kein externer Dienst einbezogen.
Jede Komponente lässt sich im Installationsprogramm ein- oder ausschalten, sodass Sie nur die Schritte bereitstellen, die Sie tatsächlich benötigen.
Die BECONEX WebView kann zusammen mit Tungsten AutoStore auf einem Windows-Webserver (IIS) oder auf einer dedizierten Instanz gehostet werden.
Datenaustausch zwischen Komponenten und Sprachmodellen
Verbindung
Die Komponenten der AI Suite senden ihre Anfragen per HTTP an die von Ihnen konfigurierte Adresse des Modell-Servers. Timeouts und Wiederholungsversuche (Retries) sind konfigurierbar.
Der BECONEX Converter (OCR vor AutoStore) nutzt Bibliotheken für die Kommunikation mit der Engine.
Anfrage
Die Anfrage enthält eine aufgabenbezogene Anweisung in Form eines Prompts sowie die für die Aufgabe erforderlichen Seitenbilder oder den OCR-Text.
Der Prompt kann zusätzliche Informationen enthalten, wie etwa ein Schema, das das Format der Antwort festlegt, eine Liste der Dokumentklassen usw.
Antwort
Nur strukturierte Daten. Die Komponente leitet einen Konfidenzwert aus der Ausgabe des Modells ab; unsichere Ergebnisse werden einer manuellen Überprüfung zugeführt.
- Trennen: Seiten, an denen ein neues Dokument beginnt.
- Klassifizieren: die Dokumentenklasse, ausgewählt aus vordefinierten Werten.
- Extrahieren: die konfigurierten Felder; bleibt ein Feld leer, wurde kein Wert gefunden.
Wohin die Ergebnisse gelangen
Zurück in den Workflow auf dem Tungsten AutoStore-Server. Die Modelle auf dem GPU-Server beantworten Anfragen; sie leiten Dokumente weder weiter, noch archivieren sie diese selbst.
Wie die lokale KI-Einrichtung die Datensouveränität unterstützt
Ihre Server halten die Daten
Dokumente, extrahierte Daten, Zwischenergebnisse sowie Prüfentscheidungen werden auf Servern gespeichert, die Sie selbst betreiben; sie verbleiben innerhalb Ihrer Infrastruktur.
Prüfdaten sind nicht öffentlich zugänglich
Der Datenordner der Prüfoberfläche befindet sich außerhalb der öffentlichen Verzeichnisse des Webservers, und das Backend akzeptiert Verbindungen ausschließlich vom lokalen Server über den Webserver.
Angemeldete Prüfer
Für den Zugriff auf die Überprüfungsoberfläche ist eine Anmeldung mit Ihrer Microsoft Entra ID sowie eine Prüferrolle erforderlich; bei der Anmeldung werden Identitätsdaten ausgetauscht, keine Dokumente.
Die Anforderungen Ihres Unternehmens geben den Ton an
Ob eine Implementierung Ihre Anforderungen erfüllt, hängt von Ihrem Gesamtsystem, Ihren Netzwerkrichtlinien und den dokumentierten Abläufen ab. Die Lösung passt sich an Ihre Organisation an – nicht umgekehrt.
Häufig gestellte Fragen
In der Standardbereitstellung erfolgt die Texterkennung lokal in Ihrem Netzwerk, während die Sprachmodelle auf Ihrem GPU-Server ausgeführt werden. Es wird kein externer KI-Dienst aufgerufen.
Ollama, das auf einem GPU-Server in Ihrem Netzwerk läuft. Die Komponenten sprechen es über eine konfigurierbare Serveradresse an.
Ja. Die AI Suite stellt eine Verbindung zu dem GPU-Server her, dessen Adresse Sie konfigurieren. Wir legen die Dimensionierung gemeinsam mit Ihnen fest – basierend auf dem Modell und Ihrem Dokumentenvolumen.