Data Platform Engineering Lead
Level: M / SA
Role Overview
A hands-on technical lead responsible for building AI-ready enterprise data platforms, including scalable pipelines, lakehouse architectures, and governed data foundations that enable model training, evaluation, and inference. The role extends to backend services and integration layers that expose curated datasets, feature stores, and data products for AI/ML and LLM-driven applications.
Key Responsibilities
1. Build & Deploy Data Platform Solutions
· Design and develop data pipelines for batch and streaming workloads using Python and Spark/PySpark
· Build and manage AI-ready datasets, feature pipelines, and training data foundations
· Develop backend services and APIs (Python – FastAPI or equivalent) to expose data products
· Implement microservices and event-driven architectures for data ingestion, processing, and serving
· Ensure the platform is scalable, performant, and maintainable
· Mentor engineers on data engineering patterns and best practices.
2. Enable AI/ML & LLM Integration
· Develop AI-ready pipelines for model training, evaluation, and inference
· Enable feature store capabilities and reproducible datasets
· Support integration with LLM/AI services (RAG, embeddings, inference APIs)
· Enable data-to-AI pipelines including vectorization and retrieval workflows.
3. Oversee Implementation on Cloud Infrastructure
· Collaborate with infra teams on Azure, AWS, or GCP
· Build and integrate data lakes, lake-houses, SQL/NoSQL systems
· Enable integration between data platforms and AI/ML systems
· Implement containerized and serverless architectures.
4. Implement Modern Software Engineering Practices
· Implement CI/CD pipelines and observability
· Define and enforce data quality frameworks
· Support metadata, lineage, and governance
· Optimize platform performance, reliability, and scalability.
Required Capabilities / Skills / Experience
· 8+ years in data engineering and backend development
· Strong Python, APIs, and microservices experience
· Deep experience in Spark/PySpark or equivalent
· Expertise in ETL/ELT pipelines and lakehouse architectures
· Experience with feature stores and AI-ready datasets
· Experience with Azure/AWS/GCP
· Familiarity with Docker, Kubernetes, CI/CD
· Familiarity with LLM/GenAI integration patterns
· Familiarity with metadata and governance tooling
· Strong system design and problem-solving skills.
Quem somos:
Cognizant (NASDAQ: CTSH) é uma construtora de IA e fornecedora de serviços de tecnologia, criando a ponte entre o investimento em IA e o valor para as empresas por meio do desenvolvimento de soluções de IA completas para nossos clientes. Nossa profunda experiência em setores, processos e engenharia nos permite incorporar o contexto único de cada organização em sistemas tecnológicos que potencializam a capacidade humana, geram retornos concretos e mantêm empresas globais à frente em um mundo em rápida transformação. Saiba mais em www.cognizant.com ou @cognizant.
A Cognizant é uma empregadora que investe em equidade. Sua candidatura não será pautada em raça, cor, gênero, sexualidade, credo, origem, deficiência, gravidez ou qualquer outra característica protegida pelas leis brasileiras.
Informações adicionais de emprego
Os candidatos podem ser obrigados a comparecer a entrevistas presenciais ou por videoconferência. Além disso, os candidatos podem ser obrigados a apresentar seu documento de identificação emitido pelo estado ou governo atual durante cada entrevista.
Embora nosso sistema permita a candidatura em todos os idiomas, o(s) idioma(s) e o(s) nível(is) de proficiência exigidos para o trabalho variam. No entanto, é necessário um nível básico de inglês para fins de comunicação em toda a empresa.
A Cognizant é uma empregadora que investe em equidade. Sua candidatura não será pautada em raça, cor, gênero, sexualidade, credo, origem, deficiência, gravidez ou qualquer outra característica protegida pelas leis brasileiras.
Se você tem uma deficiência que requer adaptações razoáveis para procurar uma vaga de emprego ou enviar uma candidatura, envie um e-mail para [email protected] com sua solicitação e informações de contato.
