← Alle Begriffe

Wie KI Sprache verarbeitet

Embedding

Was ist ein Embedding?

Ein Embedding übersetzt ein Wort oder einen Text in eine lange Reihe von Zahlen. Was ähnlich gemeint ist, bekommt ähnliche Zahlen.

Wie kann man sich das vorstellen?

Wie Koordinaten auf einer Landkarte

Jedes Wort bekommt einen Platz auf einer riesigen Landkarte der Bedeutungen. „Hund“ und „Katze“ wohnen in derselben Gegend, „Flugzeug“ ganz woanders. Die KI rechnet mit diesen Koordinaten und erkennt so, was zusammengehört.

Was bedeutet das im Arbeitsalltag?

Embeddings machen die Suche nach Bedeutung möglich. Wer „Urlaubsantrag“ sucht, findet auch das Dokument „Freistellung beantragen“, obwohl kein Wort gleich ist. Darauf bauen Lösungen auf, mit denen du mit deinen eigenen Dokumenten chatten kannst.

Ausprobieren

Klick auf ein Wort. Die Linien zeigen seine drei nächsten Nachbarn.

Für diese Übung braucht es JavaScript im Browser.

Vereinfacht auf zwei Dimensionen. Echte Embeddings haben Hunderte bis Tausende davon.

Wie funktioniert das genau?

Wie ähnlich sich zwei Embeddings sind, misst man meist über den Winkel zwischen ihnen, die Kosinus-Ähnlichkeit (cosine similarity). Der Wert liegt zwischen −1 und 1. Nahe 1 heißt: sehr ähnlich gemeint, etwa „Rechnung“ und „Angebot“. Um 0 heißt: kein Bezug, etwa „Rechnung“ und „Pferd“. Bei Millionen von Texten wäre es zu langsam, jeden mit jedem zu vergleichen. Dafür gibt es Näherungsverfahren, die die ähnlichsten in Sekundenbruchteilen finden.

Auch interessant

Zurück zum Blog

Alle Beiträge im Blog →

Der nächste Schritt

Du willst, dass dein Team versteht, wie KI arbeitet?

In 30 Minuten klären wir, wo dein Team steht und was als Nächstes sinnvoll ist. Ein Erstgespräch, kein Verkaufsgespräch.

Termin holen