Data Engineer Senior - Databricks / PySpark (H/F) - Freelance
Collective.work·Paris·Publiée il y a 4 j
Freelance
France Travail
Le poste
Taux journalier (TJM):
450
CONTEXTE DE LA MISSION
Nous recherchons un Data Engineer expérimenté spécialisé dans l'écosystème Databricks, capable de concevoir, développer et industrialiser des pipelines de données performants dans un environnement Cloud.
Le consultant interviendra sur des projets Data à forte valeur ajoutée, avec des enjeux de performance, de gouvernance, de qualité et de fiabilité des données.
RESPONSABILITÉS
*
Concevoir et développer des pipelines de données complexes en Py
Spark et Spark SQL, en mode batch et streaming.
*
Implémenter et maintenir une architecture Medallion (Bronze / Silver / Gold) basée sur Delta Lake.
*
Orchestrer et superviser les traitements via Databricks Workflows, Azure Data Factory ou Airflow.
*
Optimiser les performances et les coûts des traitements Spark : partitionnement, Z-Order, gestion des clusters et Photon.
*
Mettre en œuvre la gouvernance des données avec Unity Catalog : gestion des accès, data lineage et qualité des données.
*
Industrialiser les développements et déploiements à travers des pipelines CI/CD et des pratiques DevOps.
*
Participer à la mise en place de l'Infrastructure as Code avec Terraform et à la gestion des Databricks Asset Bundles.
*
Collaborer avec les équipes Data Analysts et Data Scientists pour fournir des datasets fiables, documentés et exploitables.
Lire toute la description ⌄Réduire ⌃
Taux journalier (TJM):
450
CONTEXTE DE LA MISSION
Nous recherchons un Data Engineer expérimenté spécialisé dans l'écosystème Databricks, capable de concevoir, développer et industrialiser des pipelines de données performants dans un environnement Cloud.
Le consultant interviendra sur des projets Data à forte valeur ajoutée, avec des enjeux de performance, de gouvernance, de qualité et de fiabilité des données.
RESPONSABILITÉS
*
Concevoir et développer des pipelines de données complexes en Py
Spark et Spark SQL, en mode batch et streaming.
*
Implémenter et maintenir une architecture Medallion (Bronze / Silver / Gold) basée sur Delta Lake.
*
Orchestrer et superviser les traitements via Databricks Workflows, Azure Data Factory ou Airflow.
*
Optimiser les performances et les coûts des traitements Spark : partitionnement, Z-Order, gestion des clusters et Photon.
*
Mettre en œuvre la gouvernance des données avec Unity Catalog : gestion des accès, data lineage et qualité des données.
*
Industrialiser les développements et déploiements à travers des pipelines CI/CD et des pratiques DevOps.
*
Participer à la mise en place de l'Infrastructure as Code avec Terraform et à la gestion des Databricks Asset Bundles.
*
Collaborer avec les équipes Data Analysts et Data Scientists pour fournir des datasets fiables, documentés et exploitables.
PROFIL RECHERCHÉ
- MUST HAVE
*
Minimum 3 à 5 ans d'expérience en Data Engineering, dont au moins 2 ans d'expérience concrète sur Databricks.
*
Excellente maîtrise de Python, Py
Spark et Spark SQL.
*
Expérience significative dans la conception et l'industrialisation de pipelines ETL/ELT sur Databricks.
*
Bonne maîtrise de Delta Lake et de l'architecture Medallion.
*
Expérience pratique de Unity Catalog et des mécanismes de gouvernance des données.
*
Solide compréhension des mécanismes d'optimisation Spark et de gestion des performances.
*
Expérience sur un environnement Cloud : Azure (ADLS, Azure Data Factory) idéalement, ou AWS / GCP.
*
Maîtrise de Git, des pratiques CI/CD et des tests automatisés appliqués aux pipelines Data.
ATOUTS
*
Certification Databricks Data Engineer Associate ou Professional.
*
Expérience en streaming avec Kafka et/ou Spark Structured Streaming.
*
Connaissance de dbt et/ou MLflow.
*
Expérience dans le secteur bancaire ou dans un environnement réglementé.
ENVIRONNEMENT TECHNIQUE
Databricks, Py