BECONEX | Lokale KI-Bereitstellung und Datensouveränität

Lokale KI für Datensouveränität

Die BECONEX AI Suite läuft in Ihrem eigenen Netzwerk.

Ein Windows-Server hostet die Tungsten AutoStore-Plattform und die Komponenten zur Dokumentenverarbeitung. Die Sprachmodelle und deren Laufzeitumgebung werden auf einem GPU-Server als lokale KI betrieben. So werden Anforderungen an die Datensouveränität unterstützt.

Die Dokumente und die extrahierten Daten werden innerhalb Ihrer Infrastruktur übertragen; es sind keine externen KI-Dienste erforderlich.

Bereitstellung der BECONEX AI Suite

Windows Server

Laufzeitplattform

Tungsten (Kofax) AutoStore

Gehostete Elemente
  • Texterkennung (OCR) 1
  • BECONEX AI Suite 2
  • BECONEX WebView 3
Verarbeitungsschritte
  • Führt den Workflow aus
  • Sendet Anfragen an das Modell
  • Speichert Ergebnisse
  • Übergibt Dokumente an Zielsysteme
Technische Anforderungen
  • Tungsten AutoStore (siehe Anforderungen)
  • IIS mit URL Rewrite und Application Request Routing sowie Python 3.11 (64-Bit, systemweit) 3
  • Zertifikate für die sichere Kommunikation zwischen Webdiensten (optional)

GPU-Server

Laufzeitplattform

Ollama

Gehostete Elemente
  • Sprachmodelle
  • Vision-Modelle
Verarbeitungsschritte
  • Beantwortet die Modellanfragen der Komponenten



Technische Anforderungen
  • Ollama (siehe Anforderungen), Version 0.31.2 oder neuer
  • GPU mit ausreichend Speicher für das gewählte Modell
  • Netzwerkzugriff vom AutoStore-Server aus
1 Texterkennung:
Die OCR erfolgt lokal im BECONEX Converter – noch vor AutoStore – oder innerhalb der OCR-Komponente; es wird kein externer Dienst einbezogen.
2 Modularität des Workflows:
Jede Komponente lässt sich im Installationsprogramm ein- oder ausschalten, sodass Sie nur die Schritte bereitstellen, die Sie tatsächlich benötigen.
3 Überprüfungsoberfläche:
Die BECONEX WebView kann zusammen mit Tungsten AutoStore auf einem Windows-Webserver (IIS) oder auf einer dedizierten Instanz gehostet werden.

Datenaustausch zwischen Komponenten und Sprachmodellen

Verbindung

Die Komponenten der AI Suite senden ihre Anfragen per HTTP an die von Ihnen konfigurierte Adresse des Modell-Servers. Timeouts und Wiederholungsversuche (Retries) sind konfigurierbar.

Der BECONEX Converter (OCR vor AutoStore) nutzt Bibliotheken für die Kommunikation mit der Engine.

Anfrage

Die Anfrage enthält eine aufgabenbezogene Anweisung in Form eines Prompts sowie die für die Aufgabe erforderlichen Seitenbilder oder den OCR-Text.

Der Prompt kann zusätzliche Informationen enthalten, wie etwa ein Schema, das das Format der Antwort festlegt, eine Liste der Dokumentklassen usw.

Antwort

Nur strukturierte Daten. Die Komponente leitet einen Konfidenzwert aus der Ausgabe des Modells ab; unsichere Ergebnisse werden einer manuellen Überprüfung zugeführt.

  • Trennen: Seiten, an denen ein neues Dokument beginnt.
  • Klassifizieren: die Dokumentenklasse, ausgewählt aus vordefinierten Werten.
  • Extrahieren: die konfigurierten Felder; bleibt ein Feld leer, wurde kein Wert gefunden.

Wohin die Ergebnisse gelangen

Zurück in den Workflow auf dem Tungsten AutoStore-Server. Die Modelle auf dem GPU-Server beantworten Anfragen; sie leiten Dokumente weder weiter, noch archivieren sie diese selbst.

Wie die lokale KI-Einrichtung die Datensouveränität unterstützt

Ihre Server halten die Daten

Dokumente, extrahierte Daten, Zwischenergebnisse sowie Prüfentscheidungen werden auf Servern gespeichert, die Sie selbst betreiben; sie verbleiben innerhalb Ihrer Infrastruktur.

Prüfdaten sind nicht öffentlich zugänglich

Der Datenordner der Prüfoberfläche befindet sich außerhalb der öffentlichen Verzeichnisse des Webservers, und das Backend akzeptiert Verbindungen ausschließlich vom lokalen Server über den Webserver.

Angemeldete Prüfer

Für den Zugriff auf die Überprüfungsoberfläche ist eine Anmeldung mit Ihrer Microsoft Entra ID sowie eine Prüferrolle erforderlich; bei der Anmeldung werden Identitätsdaten ausgetauscht, keine Dokumente.

Die Anforderungen Ihres Unternehmens geben den Ton an

Ob eine Implementierung Ihre Anforderungen erfüllt, hängt von Ihrem Gesamtsystem, Ihren Netzwerkrichtlinien und den dokumentierten Abläufen ab. Die Lösung passt sich an Ihre Organisation an – nicht umgekehrt.

Häufig gestellte Fragen

In der Standardbereitstellung erfolgt die Texterkennung lokal in Ihrem Netzwerk, während die Sprachmodelle auf Ihrem GPU-Server ausgeführt werden. Es wird kein externer KI-Dienst aufgerufen.

Ollama, das auf einem GPU-Server in Ihrem Netzwerk läuft. Die Komponenten sprechen es über eine konfigurierbare Serveradresse an.

Ja. Die AI Suite stellt eine Verbindung zu dem GPU-Server her, dessen Adresse Sie konfigurieren. Wir legen die Dimensionierung gemeinsam mit Ihnen fest – basierend auf dem Modell und Ihrem Dokumentenvolumen.

Welche Anforderungen haben Sie an die Datensouveränität?

Wir unterstützen Sie dabei, eine lokale KI-Implementierung zu definieren, die zu Ihrer Infrastruktur passt.