Ingeniero de Datos Senior | Azure + Databricks

Hace 2 días

Bogotá, Bogotá, Distrito Capital, Colombia Praxis Jornada completa EUR 120 - EUR 200 Por obra
En Praxis IT estamos en búsqueda de un Ingeniero de Datos Senior para unirse a nuestro equipo y participar en un proyecto de ingeniería y arquitectura de datos en la nube. Serás responsable de construir y mantener los pipelines de ingestión de datos desde SAP S/4HANA Cloud hacia Databricks, garantizando la disponibilidad, calidad y rendimiento de las capas Bronze y Silver de la plataforma de datos.
- Experiencia en Azure Data Factory (ADF): creación de pipelines, linked services, triggers y monitoreo.
- Conocimientos sólidos en Databricks: Delta Lake, Auto Loader, Delta Live Tables (DLT) y Unity Catalog.
- Dominio de Python y PySpark para transformación y procesamiento de datos.
- SQL avanzado: CTEs, funciones de ventana y optimización de consultas.
- Experiencia con Azure Data Lake Storage Gen2 (ADLS).
- Manejo de Git y control de versiones.
- Experiencia construyendo y administrando pipelines en ambientes productivos de alto volumen. Funciones principales
- Desarrollar y mantener pipelines de ingestión mediante Azure Data Factory.
- Construir y administrar las capas Bronze y Silver en Databricks.
- Implementar estrategias de ingestión incremental mediante Watermark y CDC.
- Configurar procesos de ingestión continua con Auto Loader o Delta Live Tables.
- Gestionar la gobernanza de datos mediante Unity Catalog.
- Monitorear y optimizar el rendimiento de pipelines y consultas Spark.
- Documentar la arquitectura técnica y los procesos implementados. Contrato: Obra Labor