Data Engineer Hadoop / PySpark
Contexte de la mission
Le consultant travaillera en étroite collaboration avec les équipes de production applicative et DevOps afin de mettre en ?uvre les évolutions techniques de la plateforme.
Missions principales
Mettre en ?uvre de nouvelles ingestions de données.
Réaliser les traitements de Data Preparation / transformation.
Développer, maintenir et faire évoluer les pipelines de données en PySpark.
Réaliser du Shell Scripting sous Unix/Linux.
Collaborer avec l'équipe DevOps pour les demandes d'évolution de la plateforme.
Participer au maintien en conditions opérationnelles et à l'évolution des traitements Data.
Rédiger les spécifications techniques et documenter les solutions mises en ?uvre.
Compétences indispensables
Très bonne maîtrise attendue :
Hadoop
Python / PySpark
Hive
SQL
Shell Scripting Unix/Linux
Environnement/outils :
Git
Jenkins
Jira
Méthodologie Agile / Scrum
Anglais professionnel indispensable, à l'écrit comme à l'oral,
Compétences appréciées / différenciantes
Une expérience sur les technologies suivantes constituera un plus :
Indexima ? Alteryx ? Altair ? GCP ? BigQuery ? bibliothèques Python orientées API.
Profil candidat:
Profil recherché
Data Engineer disposant idéalement de 3 à 6 ans d'expérience, très opérationnel sur l'écosystème Hadoop / PySpark, avec une véritable appétence pour le développement et le traitement de volumes importants de données.
Le consultant devra être autonome, dynamique, force de proposition et techniquement curieux, avec une forte capacité d'analyse et de résolution de problèmes. Un excellent relationnel et une bonne capacité à travailler en équipe dans un environnement international sont également attendus.
Cette annonce provient de Indeed. Voir l'annonce originale ↗