Lead Data Engineer / Architecte Data (H/F)
Posted
Energisme est une plateforme SaaS leader dans la gestion énergétique. Notre solution analyse des volumes massifs de données énergétiques (millions de points de mesure, séries temporelles IoT) pour optimiser les consommations et réduire l'empreinte carbone de nos clients.Mission : pilier technique de notre plateforme de données, vous dirigerez la migration de notre infrastructure NoSQL vers une architecture data lakehouse avec découplage stockage/calcul, tout en optimisant nos pipelines de traitement massif et en garantissant la scalabilité.Responsabilités :- Définir et piloter l'architecture data de la plateforme- Diriger la migration NoSQL vers data lakehouse (stockage/calcul découplé)- Concevoir et optimiser les pipelines ETL/ELT à grande échelle- Encadrer l'équipe data engineering et garantir la qualité- Optimiser les jobs Spark pour données IoT massives- Implémenter l'observabilité et les SLAs de qualité des données- Optimiser les coûts de stockage et calcul sur AzureStack technique :- Data Lakehouse : Parquet/ORC, Azure Data Lake Gen2, solutions de catalogage- Processing : Apache Spark (Scala/Python), PySpark- Query Engines : Trino/Presto, JDBC/ODBC Gateways, Spark SQL- Orchestration : Airflow, GitLab CI, Kubernetes/AKS- Cloud : Azure, Terraform, Docker- Monitoring : OpenTelemetry, Prometheus/Grafana, Azure MonitorCompétences indispensables :- Expertise Apache Spark (Scala ou Python)- Expérience architectures data lakehouse (Iceberg, Delta Lake, Hudi)- Connaissance bases NoSQL distribuées (Cassandra, ScyllaDB, HBase)- Maîtrise formats columnaires (Parquet, ORC) et stockage- Conception pipelines ETL/ELT à grande échelle- Python, Cloud Azure, moteurs SQL distribuésFortement appréciées :- Migrations NoSQL vers data lakehouse- Séries temporelles et données IoT- Orchestration (Airflow, Prefect), Scala, Terraform- Optimisation coûts cloud, data qualitySavoir-être : leadership technique et capacité à fédérer, communication et pédagogie, autonomie, rigueur, pragmatisme.CDI - Démarrage dès que possible.