Qualität und Sicherheit
Bias heißt Verzerrung: Eine KI übernimmt Schieflagen und Klischees aus ihren Trainingsdaten und gibt sie in ihren Antworten weiter, manchmal sogar verstärkt.
Wie ein Spiegel mit Dellen
Eine KI ist wie ein Spiegel der Texte, aus denen sie gelernt hat. Kommen darin Ingenieure fast immer als Männer und Pflegekräfte fast immer als Frauen vor, zeigt der Spiegel genau dieses Bild. Und weil er Dellen hat, kann er es sogar noch übertreiben.
Bias zeigt sich in Texten, Bildern und Bewertungen. Wer etwa Bilder von „einer Führungskraft“ generieren lässt, bekommt oft ein sehr einseitiges Bild. Heikel wird es, wenn KI über Menschen mitentscheidet, etwa bei Bewerbungen, Krediten oder Beurteilungen. Prüf Ergebnisse darum bewusst auf Einseitigkeit, gib vielfältige Beispiele vor und lass solche Entscheidungen nie allein von der KI treffen.
Stell ein, wie oft Ingenieurinnen in den Trainingstexten vorkommen, und vergleich das mit dem, was die KI daraus macht.
Für diese Übung braucht es JavaScript im Browser.
Vereinfachtes Rechenmodell zur Veranschaulichung. Dass KI Schieflagen nicht nur spiegeln, sondern auch verstärken kann, ist in der Forschung beschrieben.
Bias entsteht an mehreren Stellen: in den Trainingsdaten, die Gesellschaft und Internet so abbilden, wie sie sind, mit all ihren Schieflagen; bei der Auswahl und Filterung dieser Daten; und beim Feinschliff, wenn menschliche Bewertungen eigene Vorlieben einbringen. Dazu kommt die Sprache: Ein großer Teil der Trainingsdaten ist Englisch, darum können Antworten zu anderen Ländern und Kulturen ungenauer oder klischeehafter ausfallen. Anbieter steuern gegen, etwa mit ausgewogeneren Daten und gezieltem Training. Ganz verschwinden wird Bias nicht, auch weil die Vorstellung von „neutral“ nicht für alle gleich ist.
Der nächste Schritt
In 30 Minuten klären wir, wo dein Team steht und was als Nächstes sinnvoll ist. Ein Erstgespräch, kein Verkaufsgespräch.