AI Software Engineer Consultant
BpifranceMai 2024 – Aujourd'hui
Contribution à Alfred.IA, une plateforme d'IA agentique contenant plusieurs solutions d'IA générative.
- Conçu et déployé des systèmes multi-agents de niveau production en utilisant LangGraph et les composants DeepAgents, permettant des flux de travail autonomes pour des cas d'usage en entreprise.
- Implémenté l'observabilité des LLM et l'analyse des traces avec Langfuse pour surveiller le comportement des agents, identifier les modes de défaillance et améliorer la fiabilité du système ainsi que la qualité des réponses.
- Intégré des barrières de régression d'évaluation DeepEval dans les pipelines CI/CD, en définissant des métriques LLM-as-judge (fidélité, pertinence des réponses, taux d'hallucination) pour bloquer automatiquement les MR présentant des évaluations défectueuses et empêcher les régressions silencieuses de qualité en production.
- Intégré LiteLLM pour la distribution sécurisée des clés API LLM et Chainlit pour des interfaces utilisateur personnalisables.
- Architecturé et optimisé des pipelines RAG, en automatisant les webhooks d'indexation de documents et les stratégies de récupération sur des sources de connaissances internes et externes, y compris la recherche web approfondie, pour maximiser la pertinence et la précision de la récupération.
- Développé des assistants IA multi-outils, incluant un agent Jira pour la création automatisée de tickets et un bot Microsoft Teams générant des résumés pilotés par l'IA à partir de réunions et de conversations.
- Architecturé la communication serveur/client MCP pour faciliter une communication évolutive et modulaire entre les services inter-équipes tels que les contrôles de cohérence et l'interface de chatbot.
- Collaboré avec des équipes pluridisciplinaires pour affiner les exigences et fournir des solutions d'IA sur mesure, améliorant l'alignement et l'impact du projet.
- Contribution à l'industrialisation du POC Promethee, une solution dédiée pour assister les investisseurs de Bpifrance.
- Collaboré à la conception et à la mise en œuvre des architectures techniques en lien avec les équipes d'investissement métier.
- Participé à la mise en place de pipelines de traitement de données (filtrage, conversion, extraction).
- Développé un chatbot conversationnel doté d'une orchestration multi-agents dans un système RAG (Multi-query, Self-query, Reranking) pour optimiser la pertinence de l'extraction d'informations.
- Établi un processus de tests automatisés et d'évaluation utilisateur des résultats générés, atteignant une amélioration de 30% par rapport à la version précédente.
Environnement technique
LangGraphDeepAgentsLangfuseDeepEvalLiteLLMChainlitRAGJiraMicrosoft TeamsMCP.