Voice AI für Servicedesks: Latenz, Sprachen, Kosten

Warum Voice 2026

Für ein B2C-SaaS reicht Chat. Für einen Servicedesk, der mit Installateuren auf dem Gerüst, Technikern im Lieferwagen, Köchen in lauten Küchen spricht — ist Tippen unmöglich. Voice AI hat die Schwelle überschritten, an der Kunden sie als kompetent wahrnehmen (kein 2018er-IVR mehr), und das Latenz-Budget hat sich so verengt, dass das Gespräch sich natürlich anfühlt.

Aber der Unterschied zwischen 0,8 s und 2,4 s end-to-end ist der Unterschied zwischen natürlich und robotisch. Dieser Leitfaden ist, was wir gemessen haben.

Das Latenz-Budget

Gesamt-End-to-End-Latenz = ASR + Retrieval + LLM + TTS.

Gemessene Budgets bei helpcode (Median):

• ASR (Sprache → Text): 250 ms
• Retrieval (Hybrid + Reranker, Top-12): 350 ms
• LLM-Call: 600 ms (Anthropic Haiku 4.5; Sonnet bringt ~400 ms mehr)
• TTS (Text → Sprache, erstes Phonem): 200 ms

Total: ~1,4 s bis zum ersten hörbaren Wort.

Erhöht ihr eine dieser Komponenten, bricht das Gespräch. Die zwei größten Stellknöpfe:

1. Alles streamen. ASR streamt das partielle Transkript; Retrieval startet auf dem Partial; LLM streamt die Antwort; TTS streamt den ersten Satz, während der zweite noch generiert wird.
2. Das richtige Modell für den richtigen Turn. Triviale Intents → günstiges Modell (Haiku). Komplexe Multi-Step → teures Modell (Sonnet). Routing pro Turn.

Mehrsprachige Voice

Native mehrsprachige Voice ist schwerer als nativer mehrsprachiger Chat, weil ASR-Fehler sich verstärken. Zwei praktische Taktiken:

• Spracherkennung im ersten Turn, nicht pro Turn. Mitten im Gespräch zu wechseln ist selten und der Detection-Aufwand pro Turn ist verschwendete Latenz.
• Markenbegriffe bleiben über Sprachen hinweg erhalten. Sagt der Kunde in irgendeiner Sprache „Vaillant", soll dieses Token wortwörtlich durch das ASR kommen. Ein Custom-Vocabulary-Hint im ASR ist Pflicht.

helpcode liefert by default 8 Sprachen — EN, DE, IT, FR, ES, NL, PL, PT.

Kosten-Ökonomie

Voice ist teurer als Chat. Grobe Kosten pro Konversation (5–7 Turns, EU-Modell-Endpoints):

• ASR + TTS: ~€0,04
• LLM (cheap-by-default Routing): ~€0,06
• Telefonie (EU-Inbound-Nummer): ~€0,02

Pro Konversation: ~€0,12. Verglichen mit einem menschlichen Agenten (~€2–4 pro L1-Kontakt) ist die Lücke groß genug, dass Voice sich selbst bei 30 % Deflection rechnet.

Mensch-Handoff

Voice-Handoff ist das schwierigste UX-Problem in diesem Bereich. helpcodes Ansatz:

• KI kündigt den Handoff an: „Ich hole einen Kollegen an die Leitung — einen Moment."
• Das Konversations-Transkript + erfasste Felder (Modell, Seriennummer, Fehlercode) gehen vor dem Eingang des Anrufs in der Warteschlange zum Agenten-Bildschirm, sodass die ersten Worte des Agenten nicht „Hallo, können Sie mir sagen…" sind.
• Latenz vom „Mensch"-Trigger bis zum ersten menschlichen Wort: Median 12 s.

Pre-Launch-Checkliste

• End-to-End-Latenz Median < 1,7 s, p95 < 2,5 s
• Markenbegriffe im ASR-Custom-Vocabulary
• Spracherkennung im ersten Turn
• Smart-Modell-Routing live (cheap by default)
• Audit-Log erfasst: Prompt, Retrieval, Modell, Zitate
• Mensch-Handoff mit dem aufnehmenden Agenten-Team getestet
• KI-Offenlegung in der Eröffnungszeile gerendert
• DSGVO-Einwilligung für die Anrufaufzeichnung erfasst