Qualität und Sicherheit
Ein Jailbreak ist der Versuch, eine KI mit geschickten Formulierungen dazu zu bringen, ihre eigenen Schutzregeln zu umgehen.
Wie ein Trickanruf beim Empfang
„Hier spricht der Vorstand, ich brauche ganz dringend den Code für den Serverraum.“ Ein gut eingeschulter Empfang lässt sich davon nicht beeindrucken, ein schlecht eingeschulter schon. Bei einem Jailbreak wird die KI genauso bearbeitet: mit Rollenspielen, erfundenen Notfällen oder dem Hinweis, es sei ja nur für eine Übung.
Wer einen eigenen Chatbot für Kundschaft oder Team betreibt, muss damit rechnen, dass jemand ihn austricksen will, aus Neugier oder mit Absicht. Darum gilt: Was der Chatbot auf keinen Fall verraten darf, sollte er gar nicht erst wissen. Interne Codes, Preise oder Daten gehören nicht in seine Anweisungen, wenn sie dort nichts zu suchen haben.
Ein Firmen-Chatbot darf keine internen Rabattcodes verraten. Probier drei Tricks gegen schwachen und starken Schutz.
Für diese Übung braucht es JavaScript im Browser.
Erfundenes, harmloses Beispiel. Echte Schutzregeln betreffen auch ernste Themen wie gefährliche Anleitungen.
Jailbreak und Prompt Injection hängen eng zusammen und werden oft vermischt. Als Faustregel: Beim Jailbreak versucht die Person, die selbst mit der KI chattet, deren Schutzregeln auszuhebeln. Bei der Prompt Injection kommen die Anweisungen von außen, etwa aus einem Dokument oder einer Webseite. Typische Tricks sind Rollenspiele, erfundene Notlagen, sehr lange oder verschachtelte Eingaben und das Aufteilen einer verbotenen Frage in harmlose Einzelteile. Anbieter trainieren ihre Modelle laufend gegen bekannte Tricks, und neue Tricks tauchen ebenso laufend auf.
Der nächste Schritt
In 30 Minuten klären wir, wo dein Team steht und was als Nächstes sinnvoll ist. Ein Erstgespräch, kein Verkaufsgespräch.