Consultante DATA ENGINEER
Intervention chez Allianz Technology France en tant que consultante Data Engineer afin de moderniser et d'optimiser les traitements de données.
- A géré l'ingestion et le traitement de fichiers CSV générés par l'application NAI, normalisés avec un schéma de colonnes défini.
- A mis en place de flux de données sur Azure Synapse pour orchestrer le traitement des données.
- A conçu et optimisé des procédures stockées SQL utilisées dans les pipelines Synapse.
- A réalisé la migration et la modernisation des traitements en transformant les procédures stockées en notebooks PySpark exécutés sur Synapse.
- A implémenté des traitements distribués et performants avec PySpark pour améliorer la scalabilité et la maintenabilité des pipelines.
- A assuré le stockage et l'organisation des données traitées dans un Delta Lake.
Environnement technique