Ingénieur IA / ML Senior

Intégration de l'équipe de la plateforme LLM fondatrice d'une grande banque pour concevoir et exploiter l'infrastructure LLM de production au service de plusieurs applications GenAI internes.

• Architecture et exploitation de la plateforme LLM fondatrice de la banque sous des SLOs stricts en latence, coût et conformité.
• Conception d’une passerelle d’inférence de production FastAPI dockerisée sur EC2 exposant des endpoints synchrones, en streaming et en batch.
• Optimisation des déploiements d’inférence via batching de requêtes, mise en cache et autoscaling pour respecter les SLAs produit.
• Développement de GenLib, un SDK Python et Lambda Layer AWS centralisant l’authentification, le suivi des tokens et la logique de retry.
• Conception d’une architecture à plugins extensible basée sur les Protocols Python et les patterns Registry / Factory.
• Développement d’une suite de fonctions AWS Lambda pour les opérations GenAI cœur déployées via Terraform et pipelines CI/CD.
• Intégration de guardrails pour la validation entrée/sortie, la détection de prompt injection et l’anonymisation PII.
• Conception du cœur orchestrateur d’agents parsant des workflows déclaratifs et activant le tool calling et l'extensibilité MCP.
• Mise en place d’un système de mémoire long terme et court terme pour les agents via des stores DynamoDB.
• Réduction du taux d’erreur de retrieval de 62% grâce à une stratégie de Contextual Chunking enrichissant chaque chunk avec son contexte hiérarchique.
• Mise en place d’une stack d’observabilité complète avec CloudWatch, Grafana, Prometheus et OpenTelemetry.
• Construction de pipelines d’évaluation automatisés avec DeepEval et RAGAS mesurant fidélité, pertinence et taux d’hallucination.

Pilotage de la conception et de la livraison d'un système LLM agentique end-to-end pour résoudre de manière autonome les demandes du support client.

• Réduction de 60% de la création de tickets support grâce à un agent LLM combinant classification d’intentions, tool calling et retrieval contextuel.
• Conception d’une mémoire conversationnelle court terme avec état de session sur Redis pour la continuité du contexte.
• Implémentation de RAG Fusion avec reciprocal rank fusion pour gérer l’ambiguïté des requêtes et améliorer la précision de retrieval.
• Fine-tuning de modèles OpenAI GPT-4 sur des datasets métier curés via des pipelines d’entraînement JSONL.
• Gestion d’Azure OpenAI Service pour le déploiement et l’optimisation des coûts d’inférence en production.
• Construction de pipelines d’évaluation mesurant le taux de résolution, la précision de classification et la satisfaction utilisateur.

Contribution à une plateforme LLM interne permettant l'interaction en langage naturel avec des bases structurées, avec un accent sur l'optimisation d'inférence et le retrieval par knowledge graph.

• Augmentation du débit d’inférence LLM par 3x grâce à un microservice basé sur vLLM exploitant PagedAttention et le continuous batching.
• Benchmark et évaluation de plus de 10 LLMs Transformers open-source sous contraintes hardware fixes.
• Implémentation de techniques d’embeddings sparse SPLADE et BM25 pour construire des pipelines de recherche hybride.
• Pilotage d’une initiative Graph RAG transformant des documents non structurés en knowledge graph Neo4j.
• Développement d’un processus d’extraction d’entités hybride combinant extraction par LLM et modèles NER fine-tunés.
• Contribution au projet open-source vLLM sur le prompt lookup decoding et SGLang.

Développement d’un pipeline ML audio end-to-end pour l'analyse acoustique gastro-intestinale par intelligence artificielle.

• Réalisation du prétraitement audio incluant spectrogrammes et MFCCs ainsi que le débruitage.
• Mise en place de la détection et la segmentation de bruits abdominaux avec YOLO et Faster R-CNN.
• Développement d’un dashboard Streamlit pour la visualisation en temps réel.

Conception de modèles de prévision pour l'ERP M3 SaaS en environnement multi-tenant afin de prédire la dégradation des bases de données.

• Développement de modèles de prévision time-series prédisant les incidents réels de dégradation avant impact tenant.
• Déploiement des modèles sur Amazon SageMaker avec des endpoints temps réel et un réentraînement automatisé.
• Implémentation de l'explicabilité des modèles via SHAP et LIME pour les équipes SRE.

Participation à un projet de cartographie open-source pour la réponse humanitaire.

• Entraînement de modèles U-Net et DeepLabV3+ pour la segmentation de bâtiments avec transfer learning depuis le projet RAMP.
• Co-développement de HOTLib, une librairie open-source de prétraitement et d’inférence géospatiale.