2 min di lettura · Aggiornato 2026-05-22

Voice AI per service desk: latenza, lingue, costi

Cosa fa la differenza tra 0,8 s e 2,4 s di latenza end-to-end — e perché 1,4 s è lo sweet spot della voce B2B tecnica.

di helpcode research team · Research @ helpcode

Perché voce nel 2026

Per un SaaS B2C la chat basta. Per un service desk che parla con installatori sulle impalcature, tecnici nei furgoni, capochef in cucine rumorose — digitare è impossibile. La Voice AI ha superato la soglia in cui i clienti la considerano competente (niente più IVR stile 2018) e il budget di latenza si è stretto al punto che la conversazione sembra naturale.

Ma la differenza tra 0,8 s e 2,4 s end-to-end è la differenza tra naturale e robotico. Questa guida è ciò che abbiamo misurato.

Il budget di latenza

Latenza end-to-end totale = ASR + retrieval + LLM + TTS.

Budget misurato di helpcode (mediana):

  • ASR (speech → text): 250 ms
  • Retrieval (ibrido + reranker, top-12): 350 ms
  • Chiamata LLM: 600 ms (Anthropic Haiku 4.5; Sonnet aggiunge ~400 ms)
  • TTS (text → speech, primo fonema): 200 ms

Totale: ~1,4 s alla prima parola udibile.

Spingere una qualunque di queste e la conversazione si rompe. Le due manopole più grandi:

  1. Streamare tutto. L'ASR streama il transcript parziale; il retrieval parte sul parziale; il LLM streama la risposta; il TTS streama la prima frase mentre la seconda è ancora in generazione.
  2. Il modello giusto per il turno giusto. Intent banali → modello economico (Haiku). Multi-step complesso → modello costoso (Sonnet). Routing per turno.

Voce multilingua

La voce multilingua nativa è più difficile della chat multilingua nativa perché gli errori ASR si accumulano. Due tattiche pratiche:

  • Rilevamento della lingua al primo turno, non per turno. Cambiare in mezzo alla conversazione è raro e il costo del detection per turno è latenza buttata.
  • I termini brand sono preservati tra le lingue. Se il cliente dice "Vaillant" in qualunque lingua, quel token deve passare attraverso l'ASR letterale. Un hint di vocabolario custom sull'ASR è obbligatorio.

helpcode esce con 8 lingue di default — EN, DE, IT, FR, ES, NL, PL, PT.

Economia dei costi

La voce costa più della chat. Costi indicativi per conversazione (5-7 turni, endpoint modelli UE):

  • ASR + TTS: ~€0,04
  • LLM (routing cheap-by-default): ~€0,06
  • Telefonia (numero inbound UE): ~€0,02

Per conversazione: ~€0,12. Confrontato con un agente umano (~€2-4 per contatto L1), il gap è abbastanza grande perché la voce ripaghi anche con un 30 % di deflection.

Handoff umano

L'handoff voce è il problema UX più difficile in questo spazio. L'approccio helpcode:

  • L'AI annuncia l'handoff: "Le passo un collega — un attimo."
  • Il transcript della conversazione + i campi catturati (modello, serial, codice errore) arrivano allo schermo dell'agente prima che la chiamata atterri nella sua coda, così le prime parole dell'agente non sono "pronto, mi può dire…".
  • Latenza dal trigger "umano" alla prima parola umana: mediana 12 s.

Checklist pre-lancio

  • Latenza end-to-end mediana < 1,7 s, p95 < 2,5 s
  • Termini brand nel vocabolario custom dell'ASR
  • Rilevamento lingua al primo turno
  • Routing smart del modello live (cheap by default)
  • L'audit log registra: prompt, retrieval, modello, citazioni
  • Handoff umano testato con il team agenti ricevente
  • Disclosure AI renderizzata nella frase di apertura
  • Consenso GDPR registrato per la registrazione della chiamata

L'autore

HR

helpcode research team

Research @ helpcode