Arbeiten mit KI
Englischer Fachbegriff: Hallucination
Von einer Halluzination spricht man, wenn eine KI etwas Falsches oder Erfundenes so überzeugend formuliert, als wäre es eine Tatsache.
Wie jemand, der nie „Weiß ich nicht“ sagt
Stell dir eine Person vor, die auf jede Frage sofort und selbstsicher antwortet, auch wenn sie keine Ahnung hat. Meistens liegt sie richtig, weil sie viel weiß. Aber an ihrem Ton erkennst du nicht, wann sie rät. Genau so klingt eine KI, wenn sie halluziniert.
Prüf Zahlen, Namen, Zitate, Quellenangaben und Paragrafen immer an der Quelle, bevor du sie verwendest. Frag die KI nach ihren Quellen und lies dort nach. Gib ihr die nötigen Unterlagen gleich mit, etwa als Anhang oder über RAG. Und erlaub ihr ausdrücklich, „Das weiß ich nicht“ zu sagen. Das senkt das Risiko deutlich, ganz verhindern lassen sich Halluzinationen aber nicht.
Vergleich eine gut bekannte mit einer unbekannten Frage. Schau dir an, wie sicher die KI jeweils ist und wie sicher sie klingt.
Für diese Übung braucht es JavaScript im Browser.
Die Alpenblick GmbH ist erfunden. Die Werte sind zur Veranschaulichung gewählt.
Ein Sprachmodell hat keine eingebaute Faktendatenbank. Es erzeugt Text, der zum bisherigen passt, Token für Token, nach Wahrscheinlichkeit. Wo es viel verlässliches Wissen gesehen hat, ist die richtige Fortsetzung sehr wahrscheinlich. Wo es nichts weiß, liegen viele Fortsetzungen gleichauf, und das Modell wählt trotzdem eine aus, im selben sicheren Ton. Besonders anfällig sind seltene Fakten, genaue Zahlen, Quellenangaben und alles, was nach dem Ende des Trainings passiert ist. Neuere Modelle halluzinieren seltener und sagen häufiger, wenn sie unsicher sind. Ganz verschwunden ist das Problem aber nicht.
Der nächste Schritt
In 30 Minuten klären wir, wo dein Team steht und was als Nächstes sinnvoll ist. Ein Erstgespräch, kein Verkaufsgespräch.