T · Token · tool use
Token
L'unità di testo che i modelli linguistici consumano e producono. ~4 caratteri in inglese.
In una frase
Un token è l'unità discreta di testo — tipicamente un frammento di parola di circa 3-4 caratteri in inglese — che i modelli linguistici consumano in input e producono in output, e per cui i provider API addebitano.
Quando conta
Quando si stima il budget di contesto e i costi. Un PDF da 1.200 pagine è ~600k token; un turno chat tipico ~600.
Un esempio reale
helpcode KB invia solo i top-12 chunk recuperati (~6k token) più il messaggio utente — ogni risposta resta sotto 8k token di input.
Curato da helpcode research team · Ultima revisione 2026-05-22