Data Engineer
Intégration de Capgemini pour participer à divers projets internes et clients, notamment pour un projet interne autour de Microsoft Fabric et des missions pour le client Enedis axées sur la migration et la maintenance des données sur Google Cloud Platform.
- A exploré et mis en œuvre des solutions avec Microsoft Fabric pour centraliser les workflows de données complexes.
- A contribué à la mise en place d'une architecture basée sur les Data Warehouses et Lakehouses de Microsoft Fabric en intégrant des sources Azure Data Lake et SQL Server.
- A conçu des pipelines de transformation de données avec Dataflows Gen2 et Power Query pour la préparation des données brutes.
- A intégré les données transformées dans Power BI pour créer des rapports de simulation pour la recommandation de formations.
- A utilisé SharePoint comme source de stockage temporaire pour démontrer la compatibilité avec Microsoft Fabric.
- A réalisé des migrations de données et assuré leur maintenance pour le client Enedis en utilisant Google Cloud Platform (GCP).
- A contribué à la création de l'architecture de données du projet Enedis avec Google Cloud Storage et BigQuery.
- A créé des ressources de stockage pour les données avec Google Cloud Storage et des bases de données SQL/NoSQL avec BigQuery et Firestore.
- A transformé et traité les données en PySpark et Python sur Dataproc.
- A créé et orchestré des pipelines de données avec Google Cloud Dataflow et Cloud Composer.
- A créé des workflows automatisés avec Cloud Functions et Pub/Sub.
- A surveillé les jobs ETL avec Google Cloud Monitoring et Logging.
- A géré les authentifications et les accès aux données avec Identity and Access Management (IAM) de GCP.
Environnement technique