Fraunhofer-Institut für Software- und Systemtechnik ISST
Inhalt
Viele Unternehmen messen ihren KI-Erfolg daran, wie viele Tokens verbraucht werden. Das Positionspapier zeigt, warum diese Kennzahl in die Irre führt: Hoher Verbrauch sagt wenig über den tatsächlichen Nutzen aus, während die Kosten durch KI-Agenten stark steigen. Pauschales Sparen verlagert die Kosten jedoch nur. Wirksamer sind gezielte Hebel wie Caching, Model Routing und der bewusste Verzicht auf KI, wo sie nicht nötig ist. Entscheidend ist, Ergebnisse statt Verbrauch zu messen und das System rund um das Modell aktiv zu steuern.
(Paper nur auf Englisch verfügbar)