Skill: Python, Pyspark, SQL
Exp: 6 to 12 years
Location: Pune
We are seeking a highly skilled Python / PySpark / SQL Developer to design, develop, and optimize large-scale data processing pipelines. The ideal candidate will have strong expertise in Python programming, PySpark for distributed data processing, and SQL for data querying and transformation. You will work closely with data engineers, analysts, and business stakeholders to deliver efficient, scalable, and reliable data solutions.
Key Responsibilities:
- Design, develop, and maintain ETL/ELT pipelines using PySpark and Python.
- Write optimized SQL queries for data extraction, transformation, and loading.
- Work with big data platforms (e.g., Hadoop, Databricks, AWS EMR, Azure Synapse, or GCP Dataproc).
- Implement data quality checks, validation, and error handling in pipelines.
- Optimize PySpark jobs for performance and scalability.
- Collaborate with cross-functional teams to understand data requirements and deliver solutions.
- Maintain documentation for data flows, transformations, and processes.
- Ensure data security, compliance, and governance standards are met.
- Troubleshoot and debug data processing issues in production environments.
Required Skills & Qualifications:
- 3+ years of experience in Python development.
- Strong hands-on experience with PySpark (RDDs, DataFrames, Spark SQL).
- Proficiency in SQL (complex joins, window functions, CTEs, performance tuning).
- Experience with big data ecosystems (HDFS, Hive, Delta Lake, etc.).
- Familiarity with cloud data platforms (AWS, Azure, or GCP).
- Strong understanding of data modeling and ETL best practices.
- Experience with version control (Git) and CI/CD pipelines.
- Knowledge of performance tuning for Spark and SQL queries.
- Excellent problem-solving and communication skills.
Preferred Skills:
- Experience with Airflow, Luigi, or other workflow orchestration tools.
- Knowledge of NoSQL databases (Cassandra, MongoDB, etc.).
- Familiarity with containerization (Docker, Kubernetes).
- Exposure to machine learning pipelines in Spark.
- Understanding of data warehousing concepts (Snowflake, Redshift, BigQuery).
Sobre a Cognizant
Cognizant (NASDAQ: CTSH) é uma construtora de IA e fornecedora de serviços de tecnologia, criando a ponte entre o investimento em IA e o valor para as empresas por meio do desenvolvimento de soluções de IA completas para nossos clientes. Nossa profunda experiência em setores, processos e engenharia nos permite incorporar o contexto único de cada organização em sistemas tecnológicos que potencializam a capacidade humana, geram resultados tangíveis e mantêm empresas globais à frente em um mundo em rápida transformação. Saiba mais em cognizant.ai ou @cognizant.
A Cognizant é uma empregadora que investe em equidade. Sua candidatura não será pautada em raça, cor, gênero, sexualidade, credo, origem, deficiência, gravidez ou qualquer outra característica protegida pelas leis brasileiras.
Informações adicionais de emprego
Os candidatos podem ser obrigados a comparecer a entrevistas presenciais ou por videoconferência. Além disso, os candidatos podem ser obrigados a apresentar seu documento de identificação emitido pelo estado ou governo atual durante cada entrevista.
Embora nosso sistema permita a candidatura em todos os idiomas, o(s) idioma(s) e o(s) nível(is) de proficiência exigidos para o trabalho variam. No entanto, é necessário um nível básico de inglês para fins de comunicação em toda a empresa.
A Cognizant é uma empregadora que investe em equidade. Sua candidatura não será pautada em raça, cor, gênero, sexualidade, credo, origem, deficiência, gravidez ou qualquer outra característica protegida pelas leis brasileiras.
Se você tem uma deficiência que requer adaptações razoáveis para procurar uma vaga de emprego ou enviar uma candidatura, envie um e-mail para [email protected] com sua solicitação e informações de contato.
