Ingénieur IA – Architecture d'Agents LLM en Production
Audit complet de l'architecture mémoire d'une plateforme d'agents LLM en production, couvrant les couches critiques de persistance et d'orchestration.
- Audit de la mémoire filesystem-as-memory sur sandbox E2B avec analyse des configurations de isolation.
- Examen de la mémoire de travail incluant la compaction de contexte et ses impacts sur la latence.
- Évaluation de la mémoire long terme cross-session exploitant Supabase PostgreSQL + pgvector avec recherche hybride combinant BM25 et embeddings, et rerank par LLM.
- Analyse des fuites de coûts d'inférence via audit de la stabilité du prompt caching (KV-cache) sur routage multi-providers (Kimi K2.7, Grok, Claude, Gemini).
- Étude du cycle de vie des sandboxes E2B facturées à la seconde et propositions d'optimisations.
- Conception d'un système de déduction de crédits en temps réel pour protection de marge.
- Examen d'une architecture LLM-native à boucle agentique unique (think/act/observe) orchestrant 80+ tools en dispatch parallèle.
- Évaluation du chargement à la demande des skills et du streaming SSE pour scalabilité.
- Analyse de l'implémentation de Contextual Retrieval et GraphRAG-lite à relations typées.
Environnement technique