PickMyCall × Amazon Nova Sonic
Premier déploiement en production en EMEA d'Amazon Nova Sonic (IA speech-to-speech), livré pour Roojoom en 5 semaines : 99,9 % de fiabilité des appels et 82 % de latence en moins.
Ce que j’ai appris
Avec un agent vocal, la latence change la conversation. Les appelants coupaient la parole à l’agent pendant qu’il passait par des étapes séparées de transcription, de raisonnement et de synthèse vocale. Supprimer ces étapes a permis de répondre plus vite et de rendre les appels plus fiables.
Le problème
PickMyCall est l’agent vocal IA de Roojoom pour les petites et moyennes entreprises. Il répond aux appels entrants, qualifie les prospects, prend des rendez-vous et priorise les appels.
Il reposait sur un pipeline classique en cascade : speech-to-text → LLM → text-to-speech. Chaque étape ajoutait de la latence, et au téléphone, la latence, c’est tout le produit. Avec environ 4,5 secondes par échange en moyenne, les appelants coupaient la parole à l’agent, et les problèmes de synchronisation faisaient parfois tomber des appels.
Ce que nous avons construit
Nous avons remplacé la cascade par Amazon Nova Sonic, un modèle de fondation speech-to-speech sur Amazon Bedrock qui comprend et génère la voix dans un seul modèle. Plus d’étape de transcription ni de synthèse séparée : l’agent entend l’appelant et lui répond directement.
J’étais le Solutions Architect du projet, devenu le premier déploiement en production de Nova Sonic en EMEA, en production en 5 semaines.
Résultats
| Indicateur | Avant | Après |
|---|---|---|
| Latence moyenne | ~4,5 s | 800 ms |
| Latence maximale | 7 s | 2 s |
| Latence minimale | 2 s | 300 ms |
- 82 % de latence moyenne en moins
- 99,9 % de fiabilité des appels
- 5 semaines jusqu’à la production