Een token is een klein stukje tekst — vaak een deel van een woord — waarmee een AI-model rekent. Een taalmodel leest en schrijft niet in hele zinnen, maar in tokens. Een vuistregel: een gemiddeld Nederlands woord is ongeveer één tot twee tokens.
Waarom je de term hoort: veel AI-diensten rekenen af per token — voor zowel de tekst die je erin stopt als de tekst die je terugkrijgt. Hoe langer je vraag en het antwoord, hoe meer tokens, en dus hoe hoger de kosten. Ook geldt er per model een maximum aantal tokens dat het in één keer aankan.
Wat dit voor jou betekent: voor incidenteel gebruik merk je er weinig van. Ga je AI op grotere schaal of via een eigen koppeling (API) inzetten, dan telt tokengebruik mee in de kosten. Slim omgaan met de lengte van vragen en antwoorden helpt dan om het betaalbaar te houden.
Wat OkayICT hierin doet: wij helpen je AI kosteneffectief inzetten, met oog voor gebruik en kosten, zodat de waarde opweegt tegen de prijs.
Meer lezen: Wat is een taalmodel? · Wat is een prompt?
