Skip to content Skip to sidebar Skip to footer

Die Token-Diät: KI-Kosten senken im Mittelstand

Es gibt ein Programm namens „Caveman“. Seine einzige Aufgabe: KI-Systemen das Reden abzugewöhnen. Kein „Gerne helfe ich Ihnen dabei“, keine ausschweifenden Erklärungen, keine höfliche Zusammenfassung am Ende – nur die Antwort. Nach Angaben der Entwickler sinkt der Tokenverbrauch dadurch um 65 Prozent. Das klingt wie ein Scherz. Es ist aber die konsequente Antwort auf ein Problem, das inzwischen in jeder Buchhaltung ankommt: Höflichkeit kostet Geld. Und niemand hat je nachgerechnet, wie viel.

Zwei Drittel wissen nicht, wofür sie zahlen

Im Juni haben wir an dieser Stelle beschrieben, warum die Phase der billigen Pauschal-KI zu Ende geht und Token zu einem Kostenfaktor werden, den man steuern muss. Seitdem hat sich der Blickwinkel verschoben – weg von der Frage „Wird es teurer?“ hin zu „Wofür zahlen wir eigentlich?“. Wer KI-Kosten senken will, muss diese Frage zuerst beantworten.

Die Antwort ist ernüchternd. In einer Umfrage der Unternehmensberatung KPMG gab rund jedes zweite bis dritte Unternehmen an, die eigenen KI Kosten nicht vollständig nachvollziehen zu können – konkret: zwei Drittel der Befragten. Ein Manager eines großen deutschen Industriekonzerns berichtete dem Handelsblatt, die KI-Ausgaben hätten sich seit Jahresbeginn mindestens verdoppelt. Seine erste Maßnahme war nicht etwa ein Sparprogramm, sondern schlicht: Nutzungsreports. Also erst einmal hinschauen.

Wenn ein Dax-nahes Unternehmen mit eigener IT-Abteilung erst 2026 damit anfängt, seinen KI-Verbrauch zu messen – wie sieht es dann in einem Betrieb mit 35 Mitarbeitern aus?


Eine KI, die auf die Frage „Ist der Vertrag unterschrieben?“ mit drei Absätzen antwortet, ist nicht hilfsbereit. Sie ist teuer.

Kurz erklärt: Was ein Token ist

Ein Token ist die Abrechnungseinheit der KI-Welt. Vereinfacht: ein Wortteil. Im Deutschen entspricht ein Token etwa 0,75 Wörtern. Ein zweiseitiger Geschäftsbrief sind rund 1.000 Token. Wer KI Tokens als reine Technik-Randnotiz abtut, übersieht den eigentlichen Kostentreiber.

Abgerechnet wird beides – was Sie hineingeben und was das System herausgibt. Und genau hier liegt der Denkfehler, dem die meisten Anwender unterliegen: Die Kosten entstehen nicht nur durch Ihre Frage. Sie entstehen vor allem durch die Antwort und durch alles, was das System im Hintergrund mitliest, um die Antwort zu formulieren.

Warum es im Mittelstand oft schlimmer aussieht als im Konzern

Der Konzern hat ein Problem, aber er hat auch eine Abteilung, die es bearbeitet. Beim Einsatz von KI im Mittelstand fehlt beides – die Abteilung und die Sichtbarkeit. Typisches Muster, das wir in Erstgesprächen immer wieder sehen:

  • Drei bis fünf verschiedene KI-Werkzeuge sind im Einsatz, angeschafft von einzelnen Abteilungen.
  • Zwei davon laufen über die private Firmenkreditkarte eines Mitarbeiters.
  • Niemand kann sagen, welche Daten dort verarbeitet werden.
  • Die Rechnung landet als Sammelposten in der Buchhaltung, und weil sie „nur“ ein paar Hundert Euro beträgt, fragt niemand nach.

Das ist nicht nur ein Kostenthema. Unkontrollierter KI-Einsatz ist zugleich ein Datenschutz- und ein Sicherheitsthema – Stichwort Schatten-KI. Wer nicht weiß, welche Werkzeuge im Haus genutzt werden, weiß auch nicht, welche Kundendaten das Haus verlassen. Ein Argument mehr für einen Ansatz, der von Grund auf KI DSGVO-konform aufgebaut ist. Wie sich Kosten und Sicherheit zusammen betrachten lassen, beschreiben wir unter IT Security.

Die Token-Diät: fünf Hebel, um KI Kosten zu senken

1. Sichtbarkeit vor Sparsamkeit

Sie können nicht steuern, was Sie nicht messen. Der erste Schritt ist kein technischer, sondern ein organisatorischer: eine Liste aller im Unternehmen genutzten KI-Werkzeuge, mit Kosten und Verantwortlichem. Erfahrungsgemäß ist diese Liste länger, als der Geschäftsführer erwartet.

2. Antwortlänge begrenzen

Der „Caveman“-Ansatz lässt sich ohne Zusatzsoftware nachbauen: Geben Sie dem System eine feste Anweisung mit, kurz und ohne Floskeln zu antworten. Das spart nicht nur Geld, sondern auch Lesezeit. Ein Mitarbeiter, der drei Absätze überfliegt, um einen Satz zu finden, kostet ebenfalls.

3. Das passende Modell für die Aufgabe

Nicht jede Aufgabe braucht das leistungsfähigste – und teuerste – Modell. Eine Rechnung auslesen, einen Text zusammenfassen, eine E-Mail formulieren: Das erledigen kleinere Modelle zu einem Bruchteil der Kosten in gleicher Qualität. Manche Aufgaben lassen sich sogar mit komplett kostenfreien KI-Modellen erledigen – Coins fallen dann gar nicht erst an. Das große Modell bleibt den Aufgaben vorbehalten, die es wirklich brauchen. Voraussetzung ist allerdings, dass Sie überhaupt zwischen Modellen wählen können. Wer sich an einen einzigen Anbieter gebunden hat, hat diesen Hebel nicht.

4. Kontext begrenzen

Der teuerste Fehler in der Praxis: Bei jeder Anfrage wird ein komplettes Handbuch, ein ganzer Vertrag oder ein voller E-Mail-Verlauf mitgeschickt – bei jeder einzelnen Frage aufs Neue. Ein gut gebautes System sucht stattdessen gezielt die zwei relevanten Absätze heraus und übergibt nur diese. Der Unterschied liegt schnell beim Zehnfachen.

5. Harte Budgets

Setzen Sie Obergrenzen – pro Nutzer, pro Projekt, pro Monat – mit automatischer Benachrichtigung bei Überschreitung. Was in jedem anderen Kostenbereich Ihres Unternehmens selbstverständlich ist, fehlt bei KI erstaunlich oft.

Der strukturelle Punkt: der Preis pro Token

Bei allen fünf Hebeln geht es um Verbrauch. Es gibt aber noch eine zweite Ebene, die kein Sparprogramm der Welt erreicht: den Preis pro Token. Der ist kein Naturgesetz. Er ist die Geschäftsentscheidung eines Anbieters – und Anbieter, die an die Börse streben, haben ein nachvollziehbares Interesse an steigenden Umsätzen pro Kunde.

Wer seine Geschäftsprozesse auf ein einziges externes Modell gebaut hat, ist dieser Entscheidung ausgeliefert. Er kann sparen, aber er kann nicht verhandeln. Die Alternative ist keine Ideologie, sondern Risikomanagement: die Fähigkeit, das Modell zu wechseln, ohne den Prozess neu bauen zu müssen.

Genau darauf ist bios-UNIVERSE ausgelegt – anbieterunabhängig, mit Zugriff auf rund 400 KI-Modelle und automatischer Modellwahl je nach Aufgabe, in einem bayerischen Rechenzentrum betrieben. Abgerechnet wird nach tatsächlichem Verbrauch in Coins, nicht pro Kopf: Ob fünf oder fünfhundert Mitarbeiter mit dem System arbeiten, ändert am Grundpreis nichts. Aus variablen Kosten, die jemand anderes festlegt, werden kalkulierbare Kosten, die Sie festlegen. Und weil jede Instanz eigenständig auf europäischen Servern läuft, ist der Einsatz von KI im Mittelstand hier von Anfang an DSGVO-konform – ohne US-Cloud-Risiko.

FAQ & Überblick

Die 5 wichtigsten Fragen

Was ist ein Token bei KI?

Ein Token ist die Abrechnungseinheit von KI-Systemen – vereinfacht ein Wortteil. Im Deutschen entspricht ein Token etwa 0,75 Wörtern, ein zweiseitiger Brief rund 1.000 Token. Abgerechnet werden sowohl Ihre Eingabe als auch die Antwort der KI.

Wie lassen sich KI-Kosten senken?

Über fünf Hebel: Verbrauch sichtbar machen, Antwortlängen begrenzen, das passende (kleinere) Modell je Aufgabe wählen, den mitgeschickten Kontext reduzieren und harte Budgets pro Nutzer oder Projekt setzen. Zusammen lässt sich der Verbrauch oft halbieren.

Warum ist KI im Mittelstand oft teurer als gedacht?

Weil mehrere Werkzeuge unkoordiniert im Einsatz sind, teils über private Kreditkarten laufen und niemand den Gesamtverbrauch überblickt. Ohne Sichtbarkeit gibt es keine Steuerung – und die Sammelrechnung fällt zu klein aus, um Fragen zu wecken.

Ist der Einsatz von KI DSGVO-konform möglich?

Ja – wenn die KI auf europäischen Servern und in einer eigenen Instanz pro Kunde betrieben wird. bios-UNIVERSE läuft in einem bayerischen Rechenzentrum, ohne dass Daten in eine US-Cloud abfließen.

Warum lohnt sich Anbieterunabhängigkeit?

Der Preis pro Token ist eine Anbieterentscheidung. Wer einen Prozess auf ein einziges Modell gebaut hat, ist Preiserhöhungen ausgeliefert. Wer das Modell wechseln kann, ohne den Prozess neu zu bauen, behält die Kostenkontrolle.

Token-Diät auf einen Blick

Hebel Wirkung
Sichtbarkeit Verbrauch messbar machen
Antwortlänge bis 65 % weniger Token
Modellwahl Bruchteil der Kosten je Aufgabe
Kontext begrenzen bis zu 10× günstiger
Harte Budgets keine Überraschungen
Anbieterwechsel Preis verhandelbar

Fazit: erst messen, dann sparen, dann verhandeln

Drei Punkte zum Mitnehmen, wenn Sie Ihre KI-Kosten senken wollen:

  1. Messen Sie zuerst. Wer seine KI Kosten nicht kennt, gehört zu den zwei Dritteln – und das ist kein Ort, an dem man 2026 sein möchte.
  2. Der Verbrauch lässt sich halbieren, ohne dass jemand schlechter arbeitet. Kürzere Antworten, passende Modelle, weniger mitgeschleppter Kontext.
  3. Der Preis ist verhandelbar – aber nur mit Alternativen. Abhängigkeit von einem Anbieter ist die teuerste Position, die man einnehmen kann.

Die gute Nachricht: Anders als bei den meisten IT-Themen ist der erste Schritt hier weder teuer noch technisch. Er besteht aus einer Liste und einer Frage: Was nutzen wir eigentlich – und was zahlen wir dafür?

Wie wir Sie unterstützen können

Wir analysieren mit Ihnen, welche KI-Werkzeuge in Ihrem Unternehmen tatsächlich im Einsatz sind, was sie kosten und wo sich Verbrauch senken lässt, ohne dass Ihre Mitarbeiter schlechter arbeiten. Mit über 20 Jahren Erfahrung in IT Security und Managed Services in München kennen wir beide Seiten – die Kostenrechnung und die Risiken.

Sprechen Sie uns an für ein unverbindliches Erstgespräch.

Über den Autor: Thomas Herzog, bios-tec GmbH IT-Systemhaus

Quellen: Handelsblatt, „KI: So behalten Unternehmen ihre Kosten im Griff“ (Bomke/Kerkmann, 11.07.2026); Handelsblatt KI-Briefing (Scheuer, 10.07.2026); KPMG-Umfrage zur Nachvollziehbarkeit von KI-Kosten (zit. nach Handelsblatt); „Caveman“-Projekt, Angaben der Entwickler.

Noch offene Fragen?

bios-tec GmbH
Stabile IT für den Mittelstand
📍 Nymphenburger Str. 13, 80335 München
📧 info@bios-tec.de
🌐 www.bios-tec.de

Ja. bios-UNIVERSE verbindet jede einzelne Anwendung
Sie teilen uns mit welche Software Sie nutzen
und wir verbinden die Software für Sie. 

Nicht sicher? → Fragen Sie uns. 

Standard-Systeme (M365, DATEV, etc.): 5-10 Minuten pro System
Spezial-Software: 1-2 Stunden (mit unserer Hilfe)

Typisches Setup für 5 Systeme: ~1 Stunde
Danach läuft alles automatisch.

✓ Ihre Daten bleiben in Ihren Systemen und gemietetem Server
✓ Hosting in Bayern/Deutschland
✓ Single-Tenant (Ihre eigene Instanz, komplett isoliert)
✓ DSGVO, §203 StGB, EU AI Act konform

Nein. 

Das Interface ist ein Chat – einfach Fragen stellen und Befehle tippen.