AI Engineer

Intervention chez YZR pour concevoir, déployer et industrialiser des solutions d'intelligence artificielle et des API basées sur les LLM.

• A conçu et déployé des agents basés sur les LLM via des endpoints FastAPI scalables pour enrichir les attributs produits à partir d'entrées limitées.
• A assuré la scalabilité et la fiabilité en routant toutes les requêtes d'agents à travers un reverse proxy LLM centralisé et conteneurisé sous Docker.
• A atteint une latence inférieure à 8 secondes pour les tâches d'enrichissement, récupérant généralement jusqu'à 5 attributs par produit.
• A augmenté l'exhaustivité du catalogue de produits, améliorant directement les systèmes de recherche et de recommandation des clients.
• A conçu un reverse proxy FastAPI scalable et conteneurisé sous Docker pour gérer les appels LLM multi-fournisseurs en supportant plus de 1 000 requêtes par seconde.
• A implémenté des mécanismes d'auto-scaling et une supervision centralisée pour optimiser la fiabilité et la performance du système.
• A développé un tableau de bord d'analyse des coûts, réduisant les dépenses fournisseurs de 20 % grâce à des analyses d'utilisation.
• A provisionné et géré l'infrastructure sous-jacente via Terraform et appliqué les bonnes pratiques DevSecOps pour la gestion des secrets avec HashiCorp Vault.
• A stocké les appels et sorties LLM dans PostgreSQL, permettant le fine-tuning de modèles plus petits via Azure ML Studio.
• A conçu et déployé des endpoints FastAPI hautement scalables pour générer plus de 20 000 fiches produits en moins de 24 heures, réduisant la charge de travail manuelle de 90 %.
• A utilisé LangChain pour structurer, versionner les prompts et parser les sorties LLM à travers le pipeline de production.
• A orchestré le pipeline avec LangGraph comme un flux de travail conditionnel multi-étapes pour extraire, structurer et valider les données.
• A conteneurisé les services avec Docker et automatisé le déploiement sur Azure via des pipelines GitLab CI/CD.
• A intégré des tableaux de bord Prometheus et Grafana pour le suivi des traces et des logs, améliorant le temps de réponse aux incidents de 40 %.
• A construit un tableau de bord Streamlit pour suivre le débit, les coûts et les goulots d'étranglement de génération de contenu.
• A développé un modèle de score basé sur des règles et un modèle de détection d'hallucination probabiliste pour valider la conformité du contenu.
• A développé des endpoints FastAPI pour la classification de produits e-commerce agnostique en taxonomie, atteignant 80 % de précision sur des données non vues.
• A entraîné un modèle BERT personnalisé sur des données internes à grande échelle pour les embeddings, combiné à l'inférence LLM pour les prédictions finales.
• A optimisé le pipeline d'inférence pour classifier un produit en moins de 3 secondes.
• A construit une application Streamlit pour les équipes Customer Success afin de suivre les produits catégorisés, les clients et les coûts associés.

Mission à l'InsightLab de l'Université Fédérale du Ceará en tant que chercheur en machine learning pour développer des solutions de traitement du langage naturel appliquées aux rapports de police.

• A développé un système de Named Entity Recognition (NER) pour extraire des informations structurées à partir de rapports de police non structurés en portugais.
• A implémenté des modèles de deep learning exploitant des Transformers pour le marquage de séquences, atteignant des performances robustes sur des entrées textuelles complexes.
• A construit une plateforme interactive dotée de modules de supervision de modèles, de corrections humaines et d'import/export de données pour les agents de police et data scientists.
• A conçu des flux de travail pour l'entraînement des modèles, le réglage des hyperparamètres et l'évaluation avec des métriques de précision équilibrée.