Qualität und Sicherheit
Englischer Fachbegriff: Sensitive Information Disclosure
Datenabfluss heißt, dass vertrauliche Informationen über eine KI dorthin gelangen, wo sie nicht hingehören: zum Anbieter, in Trainingsdaten oder in die Antworten an andere.
Wie ein Gespräch im vollen Zug
Wer im vollen Zug laut über Kundschaft, Gehälter oder Diagnosen telefoniert, weiß nie genau, wer mithört. Bei KI ist es ähnlich: Was du eintippst, verlässt deinen Rechner. Wohin es geht und was damit passiert, hängt vom Werkzeug und seinen Einstellungen ab.
Bevor du Kundendaten, Personalthemen, Verträge oder Gesundheitsangaben in eine KI gibst, frag dich: Ist das Werkzeug dafür freigegeben, und brauche ich die Details überhaupt? Oft reicht „Kundin A“ statt eines Namens. Bei Firmenkonten mit Vertrag lässt sich meist regeln, dass Eingaben nicht fürs Training verwendet werden, bei privaten Gratis-Konten ist das oft anders eingestellt. Bei personenbezogenen Daten ist außerdem die DSGVO zu beachten.
Lass die KI-Eingabe auf vertrauliche Stellen prüfen und schwärze sie, bevor du sie abschickst.
Für diese Übung braucht es JavaScript im Browser.
Erfundene Daten. Automatisches Schwärzen erkennt nicht alles, ein prüfender Blick bleibt nötig.
Das OWASP-Projekt führt die Preisgabe sensibler Informationen (Sensitive Information Disclosure) als zweitgrößtes Risiko für KI-Anwendungen 2025 (LLM02). Daten können auf mehreren Wegen abfließen: Eingaben werden beim Anbieter gespeichert oder je nach Einstellung fürs Training verwendet; ein Modell gibt Teile seiner Trainingsdaten wieder; ein Chatbot mit Zugriff auf Firmendokumente zeigt sie den falschen Personen; oder seine internen Anweisungen werden ausgelesen (System Prompt Leakage, LLM07). Schutz bieten freigegebene Werkzeuge mit klaren Verträgen, Rechte nach dem Prinzip „nur so viel wie nötig“, Schwärzen vor dem Senden und Guardrails.
Der nächste Schritt
In 30 Minuten klären wir, wo dein Team steht und was als Nächstes sinnvoll ist. Ein Erstgespräch, kein Verkaufsgespräch.