Tech Lead
Tech Lead au sein de l'équipe data pour piloter la modernisation des pipelines de données et la gouvernance de la plateforme data.
- A conçu et déployé des pipelines ETL/ELT robustes sur Databricks utilisant PySpark, Spark SQL et Delta Lake, assurant l'ingestion, la transformation et la livraison des données au sein d'une architecture Medallion.
- A intégré plusieurs sources de données hétérogènes dans Snowflake et construit des data pipelines avec Dbt, incluant les couches staging, intermediate et Mart.
- A implémenté les stratégies d'incrémentalité Dbt et les snapshots Dbt pour suivre les changements dans les données source.
- A créé et géré l'architecture Datavault avec création des Satellites et Hubs, et implémentation des mécanismes d'historisation.
- A automatisé les contrôles de qualité des données et les processus de gestion d'erreurs pour assurer l'intégrité et la fiabilité des datasets.
- A encadré et mentoré les développeurs juniors en fournissant des orientations sur les défis techniques et en promouvant les meilleures pratiques.
- A piloté l'implémentation des méthodologies Agile pour rationaliser les workflows de l'équipe et assurer la livraison en temps opportun.
- A géré les référentiels de code source via GitHub, assurant le contrôle de version approprié et la documentation.
- A collaboré avec les équipes métier et techniques pour diagnostiquer les problèmes de données, implémenter des améliorations et rationaliser les workflows ETL.
- A optimisé les pipelines ETL/ELT en ajustant les requêtes SQL et en améliorant les performances de traitement dans des environnements de données à haut volume.
Environnement technique