Qualität und Sicherheit
Guardrails sind Schutzplanken rund um eine KI: Regeln, Filter und Freigaben, die verhindern, dass Eingaben oder Antworten Schaden anrichten.
Wie die Leitplanken auf der Autobahn
Leitplanken bremsen niemanden im normalen Verkehr. Sie greifen erst, wenn ein Auto von der Spur abkommt. Guardrails bei KI funktionieren genauso: Im Alltag merkst du sie kaum, aber sie fangen ab, was danebengeht.
Bei eigenen KI-Lösungen lohnen sich drei Arten von Schutzplanken: Was darf hinein (zum Beispiel keine Kundendaten im Klartext)? Was darf heraus (zum Beispiel keine Rechts- oder Steuerzusagen)? Und was passiert nur mit Freigabe (zum Beispiel Mails verschicken, Daten löschen)? Viele KI-Werkzeuge bringen solche Einstellungen schon mit. Es lohnt sich, sie bewusst einzuschalten.
Schalte die drei Schutzplanken ein und schau, was mit der Anfrage passiert.
Für diese Übung braucht es JavaScript im Browser.
Erfundenes Beispiel mit einer Muster-Adresse.
Guardrails sitzen an mehreren Stellen. Eingangsfilter prüfen Anfragen, bevor sie zum Modell gehen, etwa auf Angriffe oder personenbezogene Daten. Das Modell selbst ist durch sein Training und seinen Systemprompt eingegrenzt. Ausgangsfilter prüfen Antworten, bevor sie jemand sieht. Bei Agenten kommen Rechte und Freigaben dazu: Welche Werkzeuge darf er nutzen, und wann muss ein Mensch zustimmen? Oft prüft dabei eine zweite, kleinere KI die erste. Keine einzelne Planke ist perfekt, darum kombiniert man mehrere.
Der nächste Schritt
In 30 Minuten klären wir, wo dein Team steht und was als Nächstes sinnvoll ist. Ein Erstgespräch, kein Verkaufsgespräch.