Arbeiten mit KI
Englischer Fachbegriff: Context Window
Das Kontextfenster ist die Menge an Text, die eine KI in einem Moment gleichzeitig im Blick hat: Anweisungen, das bisherige Gespräch und angehängte Dokumente, gemessen in Tokens.
Wie ein Schreibtisch
Stell dir das Kontextfenster als Schreibtisch vor. Alles, was darauf liegt, kann die KI sehen und verwenden. Ist der Tisch voll, muss etwas weg, bevor Neues Platz hat. Was nicht auf dem Tisch liegt, gibt es für die KI in diesem Moment nicht.
Lange Gespräche werden mit der Zeit unzuverlässiger. Wichtige Angaben vom Anfang können untergehen oder ganz aus dem Fenster fallen. Für ein neues Thema lohnt sich darum ein neuer Chat. Und was immer gelten soll, gehört in die festen Anweisungen eines Projekts, nicht nur in die erste Nachricht.
Schieb den Regler und schau, was in einem langen Gespräch aus dem Fenster fällt.
Für diese Übung braucht es JavaScript im Browser.
Vereinfacht: Hier passen sieben Nachrichten ins Fenster. Echte Kontextfenster fassen Hunderte Seiten.
Heutige Modelle haben Kontextfenster von einigen Zehntausend bis über einer Million Tokens. Ein großes Fenster heißt aber nicht, dass alles gleich gut beachtet wird: Je voller es ist, desto eher übersieht die KI Details. Dafür gibt es den Begriff Context Rot, auf Deutsch etwa „verrottender Kontext“. Viele Werkzeuge fassen ältere Teile eines Gesprächs darum automatisch zusammen oder lassen sie weg, sobald das Fenster voll wird.
Der nächste Schritt
In 30 Minuten klären wir, wo dein Team steht und was als Nächstes sinnvoll ist. Ein Erstgespräch, kein Verkaufsgespräch.