Tokens und das Kontextfenster

Worum es geht — in einem Satz

Ein Token ist die kleinste Recheneinheit einer KI, das Kontextfenster ihr Kurzzeitgedächtnis. Das eine bestimmt, was deine KI kostet. Das andere bestimmt, wie viel Text sie auf einmal verarbeiten kann. Beides läuft unsichtbar im Hintergrund — aber sobald du KI im Betrieb einsetzt, entscheiden genau diese zwei Grössen über Preis und Möglichkeiten.

Die gute Nachricht: Du musst dafür nichts programmieren und keine Mathematik können. Es reicht, die zwei Begriffe einmal sauber zu verstehen — dann triffst du bei jedem KI-Vorhaben bessere Entscheidungen.

Was ist ein Token?

Ein Token ist die kleinste Verarbeitungseinheit eines Sprachmodells. Bevor eine KI einen Text «liest», zerlegt sie ihn in solche Tokens — und sie rechnet danach ausschliesslich mit diesen Einheiten.

Ein Token ist dabei nicht dasselbe wie ein Wort. Oft ist es ein Wortteil: Ein längeres Wort kann in mehrere Tokens zerfallen, ein kurzes Wort ist eines, und auch Satzzeichen oder Leerzeichen zählen mit. Als grobe Faustregel gilt im Englischen: Ein Token entspricht typischerweise rund einem dreiviertel Wort beziehungsweise etwa vier Zeichen (OpenAI Help Center).

Merksatz: Die KI denkt nicht in Wörtern und nicht in Seiten — sie denkt in Tokens. Wer KI verstehen will, muss diese Einheit kennen, denn alles andere baut darauf auf.

Warum ist das mehr als ein technisches Detail? Weil fast immer pro Token abgerechnet wird. Der Text, den du hineingibst, kostet Tokens — und die Antwort, die zurückkommt, ebenfalls. Tokens sind damit nicht nur die Recheneinheit der KI, sondern auch ihre Währung.

Was ist das Kontextfenster?

Das Kontextfenster ist die maximale Anzahl Tokens, die ein Modell bei einer einzelnen Anfrage gleichzeitig verarbeiten kann — und zwar Frage und Antwort zusammengerechnet (IBM: What is a context window?).

Stell es dir als Kurzzeitgedächtnis vor. Alles, worüber das Modell für diese eine Aufgabe gerade nachdenkt — deine Anweisung, die mitgelieferten Dokumente, der bisherige Gesprächsverlauf und der Platz für die Antwort — muss in dieses Fenster passen. Ist das Fenster voll, ist es voll.

Und genau hier liegt die wichtigste praktische Folge: Wird das Kontextfenster überschritten, wird der Text abgeschnitten. Das Modell sieht den überzähligen Teil schlicht nicht mehr — es kann ihn also auch nicht berücksichtigen. Eine KI, die «den letzten Absatz vergisst» oder «den Anfang eines langen Dokuments ignoriert», stösst meist genau an diese Grenze.

Die zwei Brücken: Kosten und Dokumentgrösse

Für dich als KMU lassen sich Tokens und Kontextfenster auf zwei sehr konkrete Fragen herunterbrechen — was kostet das, und wie viel passt rein.

Brücke 1 — die Kosten. Weil pro Token abgerechnet wird, kostet jede Anfrage mehr, je mehr Text du hineingibst und herausbekommst. Wer einer KI bei jeder Anfrage ein ganzes Handbuch mitschickt, zahlt jedes Mal für das ganze Handbuch — auch wenn nur ein Satz daraus relevant war. Was das im Alltag für den Preis einer Automatisierung bedeutet, steht unter Was kostet KI-Automatisierung?.

Brücke 2 — wie viel die KI auf einmal lesen kann. Das Kontextfenster setzt die Obergrenze. Da ein Token grob ein dreiviertel Wort ist, lässt sich aus dem Token-Limit eines Modells ungefähr abschätzen, wie umfangreich ein Dokument sein darf, das die KI am Stück erfasst. Ein dreiseitiger Vertrag passt locker; ein 300-seitiges Reglement oft nicht.

Was du in der Praxis daraus mitnimmst

Du musst Tokens nicht selbst zählen — aber diese Konsequenzen sind nützlich:

1. Kurz und gezielt formulieren spart Geld. Je knapper und präziser deine Anweisung, desto weniger Tokens — und desto günstiger und oft auch besser die Antwort. Mehr dazu unter Prompt Engineering.
2. Nicht alles auf einmal hineinwerfen. Statt ein ganzes Archiv mitzuschicken, gibt man der KI gezielt die relevanten Ausschnitte. Das schont das Kontextfenster und die Kosten zugleich.
3. Lange Dokumente werden aufgeteilt. Was nicht ins Fenster passt, zerlegt man in Abschnitte und legt der KI jeweils die passende Stelle vor — so umgeht man das Abschneiden.
4. Bei sehr grossen Wissensbeständen braucht es einen Mechanismus, der vorab die richtigen Stellen heraussucht, statt alles ins Fenster zu zwingen. Das ist das Grundprinzip hinter durchsuchbarem KI-Wissen.

Wie FrontierX damit umgeht

Tokens und Kontextfenster sind kein Thema, mit dem du dich beschäftigen musst — das ist unsere Aufgabe. Wenn FrontierX eine Automatisierung für deinen Betrieb baut, achten wir im Hintergrund darauf, dass jede Anfrage nur die wirklich nötigen Informationen enthält: gut für die Zuverlässigkeit, gut für die Kosten.

Konkret heisst das, dass wir lange Dokumente sauber aufbereiten, der KI gezielt die passenden Stellen vorlegen und so verhindern, dass etwas unbemerkt abgeschnitten wird. Du bringst dein Fachwissen über deinen Ablauf ein — die Technik dahinter, inklusive des sparsamen Umgangs mit Tokens, übernehmen wir.

Wenn du wissen willst, was eine KI für einen konkreten Vorgang in deinem Betrieb leisten könnte und was sie kostet, ist eine kurze Auslegeordnung der einfachste erste Schritt — ohne Verpflichtung, in deiner Sprache.