Data Engineer
Intégration d'une équipe data pour concevoir et déployer une plateforme cloud data exploitant les techniques les plus modernes du secteur.
- Conception d'une architecture Medallion pour structurer l'ingestion et la transformation des données.
- Implémentation de pipelines ELT avec Matillion consommant des données provenant de Snowflake, S3, API et Webhooks.
- Déploiement de l'infrastructure sur AWS (EC2, Lambda, Step Functions, S3) en utilisant Terraform comme infrastructure as code.
- Mise en place de la synchronisation Change Data Capture (CDC) avec Airbyte pour capturer les modifications de sources multiples.
- Instanciation d'une stratégie de qualité de données avec Great Expectations pour valider les données en amont.
- Encadrement de l'équipe dans l'adoption des bonnes pratiques cloud et des patterns modernes de data engineering.
Environnement technique