2 min di lettura · Aggiornato 2026-05-22
Voice AI per service desk: latenza, lingue, costi
Cosa fa la differenza tra 0,8 s e 2,4 s di latenza end-to-end — e perché 1,4 s è lo sweet spot della voce B2B tecnica.
di helpcode research team · Research @ helpcode
Perché voce nel 2026
Per un SaaS B2C la chat basta. Per un service desk che parla con installatori sulle impalcature, tecnici nei furgoni, capochef in cucine rumorose — digitare è impossibile. La Voice AI ha superato la soglia in cui i clienti la considerano competente (niente più IVR stile 2018) e il budget di latenza si è stretto al punto che la conversazione sembra naturale.
Ma la differenza tra 0,8 s e 2,4 s end-to-end è la differenza tra naturale e robotico. Questa guida è ciò che abbiamo misurato.
Il budget di latenza
Latenza end-to-end totale = ASR + retrieval + LLM + TTS.
Budget misurato di helpcode (mediana):
- ASR (speech → text): 250 ms
- Retrieval (ibrido + reranker, top-12): 350 ms
- Chiamata LLM: 600 ms (Anthropic Haiku 4.5; Sonnet aggiunge ~400 ms)
- TTS (text → speech, primo fonema): 200 ms
Totale: ~1,4 s alla prima parola udibile.
Spingere una qualunque di queste e la conversazione si rompe. Le due manopole più grandi:
- Streamare tutto. L'ASR streama il transcript parziale; il retrieval parte sul parziale; il LLM streama la risposta; il TTS streama la prima frase mentre la seconda è ancora in generazione.
- Il modello giusto per il turno giusto. Intent banali → modello economico (Haiku). Multi-step complesso → modello costoso (Sonnet). Routing per turno.
Voce multilingua
La voce multilingua nativa è più difficile della chat multilingua nativa perché gli errori ASR si accumulano. Due tattiche pratiche:
- Rilevamento della lingua al primo turno, non per turno. Cambiare in mezzo alla conversazione è raro e il costo del detection per turno è latenza buttata.
- I termini brand sono preservati tra le lingue. Se il cliente dice "Vaillant" in qualunque lingua, quel token deve passare attraverso l'ASR letterale. Un hint di vocabolario custom sull'ASR è obbligatorio.
helpcode esce con 8 lingue di default — EN, DE, IT, FR, ES, NL, PL, PT.
Economia dei costi
La voce costa più della chat. Costi indicativi per conversazione (5-7 turni, endpoint modelli UE):
- ASR + TTS: ~€0,04
- LLM (routing cheap-by-default): ~€0,06
- Telefonia (numero inbound UE): ~€0,02
Per conversazione: ~€0,12. Confrontato con un agente umano (~€2-4 per contatto L1), il gap è abbastanza grande perché la voce ripaghi anche con un 30 % di deflection.
Handoff umano
L'handoff voce è il problema UX più difficile in questo spazio. L'approccio helpcode:
- L'AI annuncia l'handoff: "Le passo un collega — un attimo."
- Il transcript della conversazione + i campi catturati (modello, serial, codice errore) arrivano allo schermo dell'agente prima che la chiamata atterri nella sua coda, così le prime parole dell'agente non sono "pronto, mi può dire…".
- Latenza dal trigger "umano" alla prima parola umana: mediana 12 s.
Checklist pre-lancio
- Latenza end-to-end mediana < 1,7 s, p95 < 2,5 s
- Termini brand nel vocabolario custom dell'ASR
- Rilevamento lingua al primo turno
- Routing smart del modello live (cheap by default)
- L'audit log registra: prompt, retrieval, modello, citazioni
- Handoff umano testato con il team agenti ricevente
- Disclosure AI renderizzata nella frase di apertura
- Consenso GDPR registrato per la registrazione della chiamata
L'autore
helpcode research team
Research @ helpcode