Data Engineer / Data Analyst
Conception d'une plateforme data au sein de la direction applicative groupe d'Eiffage dédiée au suivi de performance de flottes à partir de données télématiques en temps réel provenant d'engins, camions et véhicules connectés.
- Définition et mise en œuvre de l'architecture data cloud complète sur Azure pour la gestion de données télématiques à grande échelle.
- Conception et développement des pipelines Azure Data Factory pour l'orchestration des flux batch et temps réel.
- Pilotage de la modernisation de l'ingestion API en migrant les flux d'appels API des Azure Functions vers Databricks via des notebooks PySpark pour une meilleure scalabilité.
- Conception et configuration d'Unity Catalog pour assurer le contrôle d'accès granulaire (RBAC) et l'interconnexion sécurisée aux espaces de stockage externes.
- Configuration d'Azure Key Vault (secret scopes) dans l'espace de travail Databricks pour la gestion sécurisée des secrets et jetons API.
- Développement de notebooks Spark SQL réutilisables pour alimenter les tables Delta Lake (Managed/External) et implémentation de Delta Live Tables (DLT).
- Développement de notebooks Databricks (Python / Apache Spark) et mise en place de workflows d'ingestion, transformation et exposition.
- Programmation et automatisation de l'exécution des notebooks d'ingestion et de transformation via Databricks Jobs.
- Mise en place de la supervision, du monitoring centralisé et de l'alerting des pipelines via Azure Log Analytics et Azure Monitor.
- Collecte de données en temps réel via Azure Functions, centralisation via Azure Event Hubs et ingestion des flux continus avec Azure Stream Analytics.
- Développement de tableaux de bord Power BI et optimisation des performances et de la scalabilité de la plateforme data.
- Automatisation des déploiements via pipelines CI/CD Azure DevOps.
- Rôle de référent technique et cadrage des besoins métiers.
Environnement technique