Databricks Engineer

job
  • Synechron
Sorry the Job you are looking for is no Longer available

Job Summary
Location
Montreal ,QC G4F
Job Type
Contract
Visa
Any Valid Visa
Salary
PayRate
Qualification
BCA
Experience
2Years - 10Years
Posted
04 Jan 2025
Share
Job Description

We are

At Synechron, we believe in the power of digital to transform businesses for the better. Our global consulting firm combines creativity and innovative technology to deliver industry-leading digital solutions. Synechron’s progressive technologies and optimization strategies span end-to-end Artificial Intelligence, Consulting, Digital, Cloud & DevOps, Data, and Software Engineering, servicing an array of noteworthy financial services and technology firms. Through research and development initiatives in our FinLabs we develop solutions for modernization, from Artificial Intelligence and Blockchain to Data Science models, Digital Underwriting, mobile-first applications and more. Over the last 20+ years, our company has been honored with multiple employer awards, recognizing our commitment to our talented teams. With top clients to boast about, Synechron has a global workforce of 14,500+, and has 58 offices in 21 countries within key global markets. For more information on the company, please visit our website or LinkedIn community .

We are seeking highly skilled Azure Data Engineer with strong expertise in Databricks to join our data team. The ideal candidate will design, implement and optimize large-scale data pipeline, ensuring scalability, reliability and performance. This role involves working closely with multiple teams and business stakeholders to deliver cutting-edge data solutions.

Key Responsibilities:

Data Pipeline Development:

  • Build and maintain scalable ETL/ELT pipelines using Databricks.
  • Leverage PySpark/Spark and SQL to transform and process large datasets.
  • Integrate data from multiple sources including Azure Blob Storage, ADLS and other relational/non-relational systems.

Collaboration & Analysis:

  • Work Closely with multiple teams to prepare data for dashboard and BI Tools.
  • Collaborate with cross-functional teams to understand business requirements and deliver tailored data solutions.

Performance & Optimization:

  • Optimize Databricks workloads for cost efficiency and performance.
  • Monitor and troubleshoot data pipelines to ensure reliability and accuracy.

Governance & Security:

  • Implement and manage data security, access controls and governance standards using Unity Catalog.
  • Ensure compliance with organizational and regulatory data policies.

Deployment:

  • Leverage Databricks Asset Bundles for seamless deployment of Databricks jobs, notebooks and configurations across environments.
  • Manage version control for Databricks artifacts and collaborate with team to maintain development best practices.

Requirements

  • Strong expertise in Databricks (Delta Lake, Unity Catalog, Lakehouse Architecture, Table Triggers, Delta Live Pipelines, Databricks Runtime etc.)
  • Proficiency in Azure Cloud Services.
  • Solid Understanding of Spark and PySpark for big data processing.
  • Experience in relational databases.
  • Knowledge on Databricks Asset Bundles and GitLab.
  • Familiarity with Databricks Runtimes and advanced configurations.
  • Knowledge of streaming frameworks like Spark Streaming.
  • Experience in developing real-time data solutions.


SYNECHRON’S DIVERSITY & INCLUSION STATEMENT

Diversity & Inclusion are fundamental to our culture, and Synechron is proud to be an equal opportunity workplace and is an affirmative action employer. Our Diversity, Equity, and Inclusion (DEI) initiative ‘Synclusive’ is committed to fostering an inclusive culture – promoting equality, diversity and an environment that is respectful to all. We strongly believe that a diverse workforce helps build stronger, successful businesses as a global company. We encourage applicants from across diverse backgrounds, race, ethnicities, religion, age, marital status, gender, sexual orientations, or disabilities to apply. We empower our global workforce by offering flexible workplace arrangements, mentoring, internal mobility, learning and development programs, and more.

All employment decisions at Synechron are based on business needs, job requirements and individual qualifications, without regard to the applicant’s gender, gender identity, sexual orientation, race, ethnicity, disabled or veteran status, or any other characteristic protected by law.


Nous sommes

Chez Synechron, nous croyons en la puissance du numérique pour transformer les entreprises en mieux. Notre cabinet de conseil mondial allie créativité et technologie innovante pour fournir des solutions numériques leaders du secteur. Les technologies progressistes et les stratégies d'optimisation de Synechron couvrent de bout en bout l'intelligence artificielle, le conseil, le numérique, le cloud et DevOps, les données et l'ingénierie logicielle, au service d'un éventail remarquable de services financiers et d'entreprises technologiques. À travers les initiatives de recherche et développement dans nos FinLabs, nous développons des solutions pour la modernisation, allant de l'intelligence artificielle et de la blockchain aux modèles de science des données, à la souscription numérique, aux applications mobiles en priorité et plus encore. Au cours des plus de 20 dernières années, notre entreprise a été honorée par de multiples récompenses en tant qu'employeur, reconnaissant notre engagement envers nos équipes talentueuses. Avec des clients de premier plan à notre actif, Synechron emploie plus de 14 500+ personnes à l'échelle mondiale et possède 58 bureaux dans 21 pays au sein des marchés mondiaux clés. Pour plus d'informations sur la société, veuillez visiter notre site web ou notre communauté LinkedIn.

Nous recherchons un ingénieur de données Azure hautement qualifié avec une solide expertise en Databricks pour rejoindre notre équipe de données. Le candidat idéal concevra, mettra en œuvre et optimisera des pipelines de données à grande échelle, garantissant évolutivité, fiabilité et performance. Ce rôle implique de travailler en étroite collaboration avec plusieurs équipes et parties prenantes commerciales pour fournir des solutions de données de pointe.


Responsabilités Clés :

Développement de Pipeline de Données :

  • Construire et maintenir des pipelines ETL/ELT évolutifs en utilisant Databricks.
  • Utiliser PySpark/Spark et SQL pour transformer et traiter de grands ensembles de données.
  • Intégrer des données provenant de multiples sources, y compris Azure Blob Storage, ADLS et d'autres systèmes relationnels/non relationnels.

Collaboration & Analyse :

  • Travailler en étroite collaboration avec plusieurs équipes pour préparer les données pour les tableaux de bord et les outils de BI.
  • Collaborer avec des équipes multifonctionnelles pour comprendre les exigences commerciales et fournir des solutions de données sur mesure.

Performance & Optimisation :

  • Optimiser les charges de travail Databricks pour l'efficacité des coûts et la performance.
  • Surveiller et dépanner les pipelines de données pour garantir fiabilité et précision.

Gouvernance & Sécurité :

  • Mettre en œuvre et gérer la sécurité des données, les contrôles d'accès et les normes de gouvernance en utilisant Unity Catalog.
  • Assurer la conformité avec les politiques de données organisationnelles et réglementaires.

Déploiement :

  • Utiliser Databricks Asset Bundles pour le déploiement transparent des jobs, notebooks et configurations Databricks à travers les environnements.
  • Gérer le contrôle de version des artefacts Databricks et collaborer avec l'équipe pour maintenir les meilleures pratiques de développement.

Compétences Techniques :

  • Expertise solide en Databricks (Delta Lake, Unity Catalog, Lakehouse Architecture, Table Triggers, Delta Live Pipelines, Databricks Runtime, etc.)
  • Maîtrise des services Cloud Azure.
  • Compréhension solide de Spark et PySpark pour le traitement des grandes données.
  • Expérience avec les bases de données relationnelles.
  • Connaissance des Databricks Asset Bundles et de GitLab.
  • Familiarité avec les runtimes Databricks et les configurations avancées.
  • Connaissance des frameworks de streaming comme Spark Streaming.
  • Expérience dans le développement de solutions de données en temps réel.
  • DÉCLARATION DE DIVERSITÉ ET D'INCLUSION DE SYNECHRON

    La diversité et l'inclusion sont fondamentales pour notre culture, et Synechron est fier d'être un lieu de travail égalitaire et un employeur pratiquant l'action positive. Notre initiative de diversité, d'équité et d'inclusion (DEI) «Synclusive » s'engage à favoriser une culture inclusive - promouvoir l'égalité, la diversité et un environnement respectueux envers tous. Nous croyons fermement qu'une main-d'œuvre diversifiée contribue à renforcer les entreprises avec succès en tant qu'entreprise mondiale. Nous encourageons les candidats de divers horizons, qu'il s'agisse de race, d'origine ethnique, de religion, d'âge, de statut matrimonial, de genre, d'orientation sexuelle ou de handicap, à postuler. Nous autonomisons notre main-d'œuvre mondiale en proposant des arrangements de travail flexibles, du mentorat, une mobilité interne, des programmes d'apprentissage et de développement, et bien plus encore.

    Toutes les décisions d'emploi chez Synechron sont basées sur les besoins de l'entreprise, les exigences du poste et les qualifications individuelles, sans tenir compte du genre, de l'identité de genre, de l'orientation sexuelle, de la race, de l'origine ethnique, du handicap ou du statut de vétéran du candidat, ou de toute autre caractéristique protégée par la loi.

    Other Smiliar Jobs
     
    • Montreal, QC
    • 4 Hours ago
    • Mississauga, ON
    • 6 Days ago
    • Mississauga, ON
    • 6 Days ago
    • Mississauga, ON
    • 6 Days ago
    • Mississauga, ON
    • 6 Days ago
    • Mississauga, ON
    • 4 Days ago
    • Mississauga, ON
    • 4 Days ago
    • Calgary, AB
    • 2 Days ago
    • Mississauga, ON
    • 20 Hours ago
    • Mississauga, ON
    • 4 Hours ago
    • Mississauga, ON
    • 4 Hours ago
    • Mississauga, ON
    • 2 Days ago
    • Montreal, QC
    • 4 Days ago
    • Montreal, QC
    • 4 Days ago