Data Engineer - Data & Analytics Group
The Role:
We are looking for a Data Engineer that combines Data Engineering, platform architecture and management expertise. The Data Engineer will:
Provide consulting services to our customers as the KPI Digital Lead Data Engineer
Define and maintain the KPI Digital Modern D&A Platform Architecture. This D&A Platform Architecture must:
Support real-time LakeHouse Architecture on Azure, AWS and GCP
Data feeds from business applications and sensors, IoT, PLC, Scada
Any type of workload from API on Insights, BI, AI ML/DL, NLP, DO/OR, Execution of ML models in real-time, batches, micro-batches or on edge
Data Ingestion in batch, micro-batches and streaming
Real-time dashboard
Respect highest security standards
Scalable, elastic and performant
Maintain AND Improve Accelerators to speed up the creation of Data Pipelines on major cloud providers
Participate and support the AI Pre-Sales activities
Build a Data Engineering team to meet the expected customers growth
Create Data Engineering content (articles, white papers and so on)
Speak in conferences, webinars to promote KPI Digital brand
The Ideal candidate is:
Goal oriented and possesses strong decision-making and problem-solving skills
Able to build a team of diverse talents to meet the customers expectations. This implies being quite involved in the recruiting and the active management of all Data Engineers (coaching, guiding, evaluating, setting objectives, reviews and so on)
Expected to work in close collaboration with the AI Team Lead, the Data Governance Lead and the VP of D&A
A team lead, which means he/she not only assists his/her team, but the candidate is also responsible to bring his/her team to higher level of expertise
Able to devise training programs around the consulting mandates for his/her team to grow
Communicates and explains the plan, templates, approaches to his/her team and other teams so that he/she does not end-up being a bottleneck
Can communicate clearly in both languages (French and English) going technical when appropriate and is able to elevate the vocabulary for less technical folks such as clients, other team members, PM and so on
Excellent written and verbal communication skills for coordinating across teams (French and English)
Ability to discern fundamental and key aspects worth 'fighting for' versus the less 'important' ones. The ideal candidate is 'street smart'
Work with our customers' stakeholders to identify opportunities for leveraging their existing D&A platform toward a modern real-time LakeHouse
Coordinate with different functional teams to implement all D&A assets with proper monitoring
Keep up to date with various modern D&A platform services and trends
Specific Skills:
Has implemented Lambda Architecture (may also have implemented KAPPA). And could create templates for a team of Data Engineers
Understands and did implement how to move data from Event Hub (or similar) to a raw zone, then an integrated zone and then to a consumption zone with replication to a Serving Layer with database like Synapse, Snowflake, BigQuery or Redshift (micro batches and streaming even in the cold layer)
Has been implementing the main 3 types of slowly changing dimensions in this technology or older ones
Has Data Engineering using DataVault
Has used Delta Lake
Knows how to stream data in the Data Lake using Databricks
Is very solid with Spark (to deal with Big Data situations) and can tune the environment using multiple nodes, is able to partition 'DB' and understand replicating the dimensions on multiple nodes
Can optimize the use of Azure resources to optimize costs and usage
Has some Azure administrator and cloud architecture experience
Can define the access rights management solution
Is an adept of CI-CD and can implement Azure DevOps
Can define real-time and batch orchestration
Has used these software (and implemented best practices for their usage): Chef, Jenkins, Terraform, Confluence, GIT, SVN, GitHub, Terraform, BitBucket, Jira
Has the title implied, the candidate is a data engineer meaning he is a full fledge experienced developer very solid in both Python and Spark
Databricks is also a requirement, but if the candidate has all above requirements, the learning curve to absorb Databricks should be easy. Same comments for ADF
Has used noSQL technologies and Azure Data Lake Store (gen 2)
Understand asynchronous architecture using 'queue mechanisms' such as Event Hub/Kakfa
Learns and masters new technologies and techniques rapidly and continuously (with proper balance with consulting mandates)
Able to understand rapidly the patterns and directions taken by the D&A Practice Lead
Able to zero-in on ambiguous concepts and made them crystal clear rapidly
Pragmatic (consider constraints) but not to the expense of faulty designs/concepts
He/She must be comfortable working with a wide range of stakeholders and functional teams
Excellent written and verbal communication skills for coordinating across teams
A drive to learn and master new technologies and techniques.
We're looking for someone with 15 years of ETL/ELT and Data Pipelines experience and 7 years as a solution architect
Minimum of 5 years in Senior Management role
Experience working with data architecture
Experience with ADLS gen 2, S3, Spark, Databricks, Synapse Analytics, Snowflake, PowerBI,
Experience with AWS stack: Kinesis Data/Stream/Firehose, S3, Lake Formation, RedShift, Tableau, ...
What will make you successful here?
A desire to be accountable for owning problems from design to implementation
A bias for action and pragmatic solutions
A low ego and humility; an ability to gain trust through effective communication and doing what you say you will do
A talent for operating effectively at various levels of abstraction
An aptness to distill complex, technical topics articulately to a non-technical audience
Adaptability, flexibility, and an ability to navigate ambiguity
Benefits
The opportunity to join and grow an ever-expanding professional network of high-profile clients and reputable colleagues.
Permanent, full-time job (40 hours a week)
Flexible schedule
Hybrid (work from home and/or office)
Competitive salary
Attractive group insurance plan
Retirement savings plan
Small company culture
Free use of gym within building
Casual work environment: jeans-friendly!
Ingénieur en chef des données - Groupe des données et des analyses
Le rôle :
Nous sommes à la recherche d'un ingénieur principal des données qui combine l'ingénierie des données, l'architecture des plateformes et l'expertise en gestion. L'ingénieur principal des données :
Fournir des services de conseil à nos clients en tant qu'ingénieur responsable des données numériques KPI
Définir et tenir à jour l'architecture de plateforme D&A numérique moderne KPI. Cette architecture de plateforme D&A doit :
Prise en charge de l'architecture LakeHouse en temps réel sur Azure, AWS et GCP
• Flux de données provenant d'applications et de capteurs commerciaux, IoT, PLC, Scada
• Tout type de charge de travail à partir de l'API sur Insights, BI, AI ML/DL, NLP, DO/OR,
Exécution de modèles ML en temps réel, lots, micro-lots ou sur le bord
• Ingestion de données en lots, micro-lots et en flux
• Tableau de bord en temps réel
• Respecter les normes de sécurité les plus élevées
• Évolutif, élastique et performant
• Maintenir ET améliorer les accélérateurs pour accélérer la création de pipelines de données sur les principaux fournisseurs de services infonuagiques
• Participer et soutenir les activités de prévente sur l'intelligence artificielle
• Constituer une équipe d'ingénierie des données pour répondre à la croissance attendue des clients
• Créer du contenu sur l'ingénierie des données (articles, livres blancs, etc.)
Prendre la parole lors de conférences et de webinaires visant à promouvoir la marque numérique KPI
Le candidat idéal est :
Orientation objectifs et solides compétences en matière de prise de décision et de résolution de problèmes
Capacité à constituer une équipe de talents diversifiés pour répondre aux attentes des clients. Cela suppose d'être très impliqué dans le recrutement et la gestion active de tous les ingénieurs en données (encadrement, orientation, évaluation, établissement d'objectifs, examens, etc.)
Travailler en étroite collaboration avec le responsable de l'équipe IA, le responsable de la gouvernance des données et le vice-président, D&A
Un chef d'équipe, ce qui signifie qu'il/elle assiste non seulement son équipe, mais aussi le candidat/la candidate, et qu'il/elle doit amener son équipe à un niveau d'expertise plus élevé
Capacité à concevoir des programmes de formation autour des mandats de conseil pour permettre à son équipe de se développer
Communiquer et expliquer le plan, les modèles et les approches à son équipe et aux autres équipes afin qu'il ne devienne pas un goulot d'étranglement
Capacité à communiquer clairement dans les deux langues (français et anglais) et à devenir technique, le cas échéant, et capacité à améliorer le vocabulaire pour les personnes moins techniques, comme les clients, les autres membres de l'équipe, les gestionnaires de projet et ainsi de suite
Excellentes compétences de communication écrite et verbale pour la coordination entre les équipes (français et anglais)
Capacité de discerner les aspects fondamentaux et clés pour lesquels il faut " se battre " par rapport aux aspects moins " importants ". Le candidat idéal est " intelligent dans la rue ".
Collaborer avec les parties prenantes de nos clients pour identifier les opportunités de mise à profit de leur plate-forme D&A existante vers un LakeHouse en temps réel moderne
Collaborer avec les différentes équipes fonctionnelles afin de mettre en œuvre l'ensemble des actifs D&A avec un suivi approprié
Se tenir au courant des différents services et tendances des plateformes D&A modernes
Compétences particulières :
A mis en œuvre l'architecture Lambda (peut-être aussi KAPPA), et pourrait créer des modèles pour une équipe d'ingénieurs en données
Comprend et a mis en œuvre la façon de déplacer les données du carrefour d'événements (ou d'un site semblable) vers une zone brute, puis une zone intégrée, puis vers une zone de consommation avec réplication à une couche de service avec une base de données comme Synapse, Snowflake, BigQuery ou Redshift (micro-lots et flux même dans la couche froide)
A mis en œuvre les trois principaux types de dimensions qui changent lentement dans cette technologie ou les plus anciennes.
L'équipe Ingénierie des données utilise DataVault
A utilisé le lac Delta
Sait comment transmettre des données dans le lac de données à l'aide de Databricks
Est très solide avec Spark (pour gérer les situations de mégadonnées) et peut régler l'environnement à l'aide de plusieurs nœuds, est capable de cloisonner la base de données et de comprendre la réplication des dimensions sur plusieurs nœuds
Peut optimiser l'utilisation des ressources Azure pour optimiser les coûts et l'utilisation
Expérience de l'administration Azure et de l'architecture cloud
Peut définir la solution de gestion des droits d'accès
Est un adepte de CI-CD et peut mettre en œuvre Azure DevOps
Capacité à définir l'orchestration en temps réel et par lots
A utilisé ces logiciels (et mis en œuvre des pratiques exemplaires pour leur utilisation) : Chef, Jenkins, Terraform, Confluence, GIT, SVN, GitHub, Terraform, BitBucket, Jira
Le titre est implicite, le candidat est un ingénieur en données, ce qui signifie qu'il est un développeur expérimenté à part entière très solide en Python et en Spark
Les briques de données sont également une exigence, mais si le candidat a toutes les exigences ci-dessus, la courbe d'apprentissage pour absorber les briques de données devrait être facile. Mêmes commentaires pour le FAD
A utilisé les technologies noSQL et Azure Data Lake Store (deuxième génération)
Comprendre l'architecture asynchrone à l'aide de " mécanismes de file d'attente " tels que Event Hub/Kakfa
Apprend et maîtrise les nouvelles technologies et techniques rapidement et en permanence (avec un bon équilibre avec les mandats de consultation)
Capacité à comprendre rapidement les tendances et les directives du responsable de la pratique D&A
Capacité à cibler des concepts ambigus et à les clarifier rapidement
Pragmatique (tenir compte des contraintes), mais pas au détriment de conceptions ou de concepts défectueux
Il/Elle doit être à l'aise de travailler avec un large éventail de parties prenantes et d'équipes fonctionnelles
Excellentes compétences de communic
