När en AI modell körs konsumerar den Tokens.
Hur många tokens som går åt beror på hur mycket data som används som grund för att generera svaret, och hur långt svar som genereras av AI modellen, vilket inte går att veta exakt i förväg.
Uppskattningsvis är input token 95% och output tokens 5% av den totala token konsumtionen.
Olika modeller har olika kostnad per token. Se kostnaden per miljoner tokens.
.jpg)