Interner Richtlinien Chatbot

Worum geht es bei diesem Use Case

In vielen KRITIS Organisationen gibt es zahlreiche interne Richtlinien, ISMS Vorgaben, Datenschutzrichtlinien, Betriebsanweisungen oder Vorgabedokumente. Diese Dokumente liegen oft in DMS Systemen, Fileshares oder werden per E Mail verteilt. Mitarbeitende wissen dann zwar, dass es eine Regel gibt, aber nicht in welchem Dokument sie steht. Genau hier setzt der interne Richtlinien Chatbot auf der DVVKI-Plattform an.

Die Dokumente werden einmalig in die Plattform eingelesen und für die spätere Abfrage vorbereitet. Danach können Mitarbeitende ganz einfach Fragen stellen wie zum Beispiel. Wie lang muss mein Passwort sein. Welche Löschfrist gilt für Kundendaten. Welche Schutzklasse gilt für mobile Endgeräte. Die Plattform antwortet dann mit einem erklärten Text und nennt die Quelle.

Wie funktioniert das RAG Modell

Es kommt ein Retrieval Augmented Generation Ansatz zum Einsatz. Das bedeutet. Zuerst wird der relevante Inhalt aus den hinterlegten Dokumenten gesucht. Erst danach wird das Sprachmodell angewiesen eine Antwort zu formulieren. Die KI halluziniert dadurch deutlich weniger, weil sie nicht frei antwortet, sondern auf Basis der gefundenen Stellen.

Schritt 1. Dokumente werden indexiert. auch mit Tabellen und eingebetteten Bildern
Schritt 2. Frage wird in Vektoren umgerechnet und passende Abschnitte werden gesucht
Schritt 3. Sprachmodell fasst die relevanten Abschnitte zu einer Antwort zusammen
Schritt 4. Es wird geprüft ob die Antwort ausreichend gedeckt ist

Qualitätssicherung der Antworten

Jede Antwort wird vor der Ausgabe geprüft. Die Plattform bewertet ob die gefundenen Textstellen zur Frage passen. Nur wenn dieser Schritt positiv ist, wird die Antwort angezeigt. Dadurch wird vermieden, dass die KI eine Vermutung ausgibt. Für KRITIS und interne Vorgaben ist das besonders wichtig.

Antworten mit Quellenangabe

Zu jeder Antwort gibt es eine Quelle mit Dokumentname und Seitenzahl. Die Quelle kann aufgeklappt werden, sodass der Originaltext sofort sichtbar ist. Dadurch bleibt die Nachvollziehbarkeit erhalten und Fachabteilungen können die Antwort prüfen.

Typische Anwendungsbeispiele