Freelance AI Engineer
A intégré l'équipe d'INTM Groupe en tant qu'ingénieur IA indépendant afin de concevoir et d'exécuter des protocoles d'évaluation de la fiabilité des agents autonomes basés sur des LLM.
- A conçu et exécuté un benchmark d'évaluation robuste comprenant 60 tâches contradictoires réparties sur 6 catégories de défaillance.
- A testé la fiabilité d'un agent LLM autonome à travers des scénarios de génération de tâches complexes et de simulation d'attaques ciblées.
- A annoté manuellement l'intégralité des tâches générées afin de constituer un jeu de données de référence fiable.
- A élaboré une taxonomie complète des modes de défaillance des modèles de langage évalués.
- A appliqué un contrôle qualité statistique rigoureux en mettant en œuvre des méthodes de codage ouvert et de validation inter-juges.
- A mesuré et documenté les taux de réussite des modèles en calculant des intervalles de confiance à 95% via les méthodes de Wilson et de bootstrap.
- A validé les performances d'un système d'évaluation automatisé par rapport aux annotations humaines à l'aide de l'indice Kappa de Cohen.
- A quantifié précisément le biais de notation inhérent au processus d'évaluation automatisée par LLM.
- A rédigé et publié l'intégralité du protocole d'évaluation, du code source et des données sous la forme d'une étude open source entièrement reproductible.
Environnement technique