AI Engineer

Intégration de l'équipe GenAI d'une plateforme bancaire pour construire et déployer en production une plateforme agentic RAG voice-to-voice répondant aux questions des équipes de vente sur 900+ documents internes.

• Conception d'un système RAG hybride dense+sparse (bge-m3, Qdrant HNSW, Reciprocal Rank Fusion, filtrage ACL) répondant en ~80 ms sur 14 780 vecteurs.
• Atteinte de 0% hallucination et 90% couverture de citations sur un ensemble de validation certifié de 50 questions en déployant un gate de refus calibré à base de cross-encoder (bge-reranker-v2-m3) refusant gracieusement sous un score de confiance de 0.30.
• Construction d'une couche GraphRAG inspirée de RAPTOR : arbre de résumé incrémentalisé mis à jour avec 946 nœuds permettant des briefings au niveau du corpus.
• Réduction du coût et de la latence en déployant un routeur à trois étages — gate d'intention, cache sémantique Redis (hits en 150 ms), workflow agentic borné sur LlamaIndex — atteignant 92% de précision de routage et un classifieur gpt-4o-mini à 96.7% pour un coût ~17× inférieur.
• Livraison d'une UX voice-to-voice temps réel avec Azure OpenAI gpt-realtime (WebRTC, barge-in) ancrée via function calling plus un avatar parlant; réduction du temps jusqu'à la première réponse vocale de 4.85 s à 2.9 s avec routage spéculatif.
• Ingestion de 900+ documents multi-formats (PDF, DOCX, PPTX, XLSX, transcription vidéo, OCR d'écran) en 9 933 chunks dédupliqués (MinHash LSH, chunking conscient de la structure); accélération du reranking GPU de 20 s à 4.5 s (Tesla T4).
• Déploiement seul en production : GPU VM Azure, FastAPI sous systemd, Caddy auto-HTTPS, Qdrant + Redis en Docker, pipeline GitLab CI 5 étapes, portail Next.js sur Azure App Service; migration de 14 780 vecteurs point-par-point après corruption de snapshot cross-OS.
• Instrumentation de l'observabilité LLM (Langfuse auto-hébergé : latence par étage, coût en tokens, redaction PII) et d'un regression harness sur golden-set utilisé comme quality gates de style CI; architecture entièrement résidente en UE (RGPD by design).

Construction end-to-end de la stack voice d'une plateforme e-commerce : fine-tuning d'un modèle text-to-speech pour l'arabe tunisien (dialecte faible ressource sans support TTS commercial), puis déploiement d'un agent téléphonique autonome appelant les clients pour confirmer, modifier ou annuler leurs commandes en temps réel.

• Fine-tuning de Coqui XTTS-v2 via transfer learning pour créer « TunTTS », une voix arabe tunisien (Darija) d'aspect naturel; sélection de XTTS-v2 après benchmarking de Google/OpenAI TTS (MSA uniquement) et VITS-from-scratch; entraînement avec Coqui GPTTrainer sur GPU (fp16 mixed-precision, LR 5e-6, gradient accumulation 32, checkpoint resuming).
• Conception du pipeline de données d'entraînement bidirectionnel : audio rééchantillonné à 22.05 kHz avec ffmpeg + filtrage de durée; transcripts fusionnés et nettoyés en pandas avec fonction personnalisée de normalisation arabe gérant la diglossie et le code-switching arabe/français/anglais; packagé en format LJSpeech.
• Productisation du modèle en tant qu'API d'inférence GPU faible latence (fp16) avec clonage vocal depuis audio de référence, exposée en production via webhooks.
• Construction de l'agent de confirmation de commande autonome : chaque nouvelle commande déclenche un appel sortant sur VoIP/SIP, où un agent gpt-realtime speech-to-speech relit la commande et récupère la confirmation vocale du client en dialecte; stack sélectionnée après benchmarking de l'Agent Development Kit (ADK) de Google avec modèles Gemini.
• Implémentation des outils in-call (modification de commande en direct, annulation, remboursement avec confirmation email automatisée) en tant que serveurs MCP (Model Context Protocol), pour que les mêmes outils servent la stack gpt-realtime et les agents ADK/Gemini en benchmark — le flux complet s'exécute sans intervention humaine.
• Instrumentation de l'observabilité des coûts : consommation de tokens par appel et monitoring d'utilisation du modèle realtime.

Développement et benchmarking de modèles de classification de fraude et de tableaux de bord de monitoring sur plus d'1 million d'enregistrements de transactions.

• Construction et benchmarking de modèles de classification de fraude atteignant une AUC-ROC de 0.94.
• Conception d'un warehouse en schéma en étoile réduisant le temps de génération des rapports de 60%.