Data Engineer
Intégration de l'équipe Data de la RATP dans le cadre d'un stage de fin d'études afin de concevoir et industrialiser des pipelines de données automatisés.
- Traduction des besoins métier en architecture Data automatisant des traitements manuels chronophages.
- Validation d'un PoC complet auprès du management.
- Automatisation des pipelines ETL en Python et Airflow.
- Mise en place des contrôles Data Quality avec Pytest pour fiabiliser l'ingestion des données.
- Déploiement d'une solution LLM/RAG locale avec Ollama et pgvector pour exploiter des rapports non structurés.
- Restitution des données via des dashboards sur Streamlit et Power BI.
- Réalisation du cadrage RGPD de la collecte et du stockage des données incluant l'anonymisation et le registre des traitements avec l'équipe Data Management.
- Conteneurisation de la solution avec Docker et mise en production du pipeline complet avec CI/CD.
- Réduction de 2 heures par jour du temps de traitement manuel.
Environnement technique