Token-Ökonomie

Programme wie ChatGPT lesen Text nicht als Buchstaben und nicht als ganze Wörter. Sie zerlegen ihn in kleine Bausteine, die man Token nennt. Ein Token ist meist eine Silbe, ein kurzes Wort oder ein Wortteil. Als grobe Regel gilt: 100 Token entsprechen etwa 75 englischen Wörtern, im Deutschen etwas weniger. Genau diese Bausteine sind die Recheneinheit, mit der die Anbieter arbeiten und abrechnen. Die Token-Ökonomie ist die Betrachtung, was ein solcher Baustein kostet, wie viele davon anfallen und wer am Ende dafür bezahlt.

Warum jede Antwort einen Preis hat

Für Nutzer fühlt sich eine KI-Antwort kostenlos an. Für den Anbieter ist sie das nie. Jeder Baustein muss durch spezielle Rechenchips laufen, und die verbrauchen Strom und Rechenzeit. Bei Millionen Nutzern summieren sich winzige Beträge zu erheblichen Summen.

Deshalb ist die Token-Ökonomie eine der wichtigsten Zahlen im Geschäft mit KI. Anbieter veröffentlichen Preise pro Million Token, oft getrennt nach eingehendem und ausgehendem Text. Ausgehender Text ist typischerweise teurer, weil das Modell ihn Baustein für Baustein selbst erzeugen muss. Eingehender Text wird dagegen nur einmal gelesen und verarbeitet.

Diese Preise sind in wenigen Jahren dramatisch gefallen, bei manchen Modellen um mehr als 90 Prozent. Gleichzeitig sind die Anfragen länger geworden, weil Nutzer ganze Dokumente hineinkopieren. Die Rechnung eines Unternehmens kann also steigen, obwohl der Preis pro Baustein sinkt. Ein häufiger Irrtum ist, billigere Modelle würden automatisch billigeren Betrieb bedeuten.

Wie sich die Bausteine zusammenzählen

Bei einem Gespräch mit einem Chatprogramm wird nicht nur deine letzte Frage abgerechnet. Das Modell hat kein Gedächtnis im menschlichen Sinn. Damit es den Gesprächsverlauf kennt, wird bei jeder neuen Frage der ganze bisherige Verlauf erneut mitgeschickt. Ein langes Gespräch wird dadurch mit jeder Runde teurer als die vorige.

Dazu kommen Anweisungen, die der Nutzer nie sieht. Firmen stellen ihren Modellen oft mehrere Seiten Regeln voran, den sogenannten System-Prompt. Auch Suchergebnisse oder Auszüge aus firmeneigenen Dokumenten werden mitgeschickt. Diese versteckten Bausteine machen bei manchen Anwendungen den größten Teil der Rechnung aus.

Gegen diese Kostenspirale gibt es mehrere Hebel. Ein Zwischenspeicher, das Caching, sorgt dafür, dass immer gleiche Textanfänge nur einmal berechnet werden und danach günstiger sind. Außerdem schicken viele Firmen einfache Anfragen an ein kleines Modell und nur schwierige an ein großes. Man nennt das Routing, und es senkt die Kosten oft deutlich, ohne dass Nutzer einen Unterschied merken.

Token-Preise in Nachrichten und Produkten

In Quartalszahlen von Technologiekonzernen tauchen Token inzwischen als eigene Kennzahl auf. Unternehmen nennen etwa, wie viele Billionen Token sie pro Monat verarbeiten. Analysten lesen daraus, wie stark die Nachfrage nach KI wirklich wächst. Und Investoren fragen, ob die Einnahmen pro Baustein die Stromrechnung decken.

Wer selbst Software baut, begegnet der Token-Ökonomie direkt. Der Zugang zu einem Modell läuft über eine Programmierschnittstelle, und dort wird nach Bausteinen abgerechnet. Auch bezahlte Abos für Endkunden sind davon abgeleitet: Der Monatspreis ist eine Wette darauf, dass der durchschnittliche Nutzer weniger Bausteine verbraucht, als sein Beitrag hergibt. Vielnutzer stoßen deshalb irgendwann an Obergrenzen.

Nicht verwechseln sollte man diesen Begriff mit Token aus der Kryptowelt. Dort bezeichnet ein Token eine digitale Werteinheit auf einer Blockchain, also etwas völlig anderes. In der KI ist ein Token nur ein Stück Text. Wenn in einem Artikel über Rechenkosten oder Modellpreise von Token die Rede ist, geht es fast immer um die hier beschriebene Bedeutung.