Data Engineer
Contexte: Contribution à la modernisation de la data plateforme d’une Maison du groupe LVMH, le Groupe (Les Echos-Le Parisien), via sa migration vers une architecture Data Mesh, en collaboration avec les équipes métiers pour répondre à leurs besoins en données. Mission:
- A provisionné l'infrastructure en Infrastructure as Code avec Terraform pour créer et gérer des ressources GCP de manière reproductible et versionnée.
- A ingéré des données publiques de l'INSEE vers Google Cloud Storage au format Parquet via des Cloud Run Jobs.
- A industrialisé le déploiement en construisant le code avec Cloud Build et en le déployant avec Cloud Deploy dans une pipeline CI/CD.
- A sécurisé l'accès au réseau public avec Secret Manager pour stocker le certificat privé de l'entreprise.
- A transformé les données en SQL avec Dataform sur des tables externes BigQuery tout en assurant la traçabilité du lineage.
- A orchestré les flux de données avec Cloud Composer.
- A réalisé la maintenance corrective et évolutive des flux de données et recueilli les besoins auprès de l'équipe Adobe pour fournir des données fiables.
Environnement technique