Empresa: GFT Technologies
O que buscamos: Buscamos um(a) profissional de Engenharia de Dados L3 com experiência em coleta, processamento, transformação e gerenciamento de grandes volumes de dados, utilizando ferramentas de ETL, Python/PySpark e serviços de Cloud AWS. O profissional será responsável pela manutenção de pipelines de dados, garantia da segurança e qualidade das informações, criação de métricas e estruturação de dados para consumo analítico e de negócio. A posição terá forte atuação na modernização da plataforma de dados, com foco em arquitetura Lakehouse utilizando Apache Iceberg, modelagem dimensional, governança, observabilidade e preparação de dados para consumo analítico e aplicações de Inteligência Artificial. Responsabilidades: • Organizar, coletar e processar grandes volumes de dados utilizando ferramentas de ETL; • Traduzir os objetivos de negócio do cliente em estratégias de gerenciamento de informações e inteligência de negócios; • Desenvolver e manter pipelines de dados, garantindo a segurança no acesso às informações; • Criar e disponibilizar métricas e painéis sobre os dados obtidos, assegurando a qualidade e a integridade das informações; • Atuar na modernização da plataforma de dados, com foco em arquitetura Lakehouse, governança, qualidade e preparação dos dados para consumo analítico e de IA; • Estruturar modelos dimensionais para consumo por times de negócio, dashboards e relatórios; • Atuar em todo o ciclo de vida dos dados, incluindo ingestão, processamento, armazenamento, transformação, consumo e governança; • Desenvolver e otimizar pipelines utilizando Python, PySpark e serviços da AWS; • Trabalhar com Apache Iceberg, contribuindo para o gerenciamento de tabelas analíticas, versionamento, evolução de schema, particionamento e otimização de performance; • Utilizar mecanismos de consulta para grandes volumes de dados, como Athena, Trino, Presto ou Spark SQL, trabalhando com formatos colunares como Parquet e ORC; • Implementar testes unitários e de performance, além de boas práticas de segurança, controle de acesso e monitoramento em nuvem; • Contribuir para a qualidade, rastreabilidade, integridade e eficiência dos processos de dados. Requisitos e Qualificações: • Experiência com coleta, transformação e carga de dados utilizando ferramentas de ETL; • Experiência com Python e PySpark; • Experiência com serviços AWS, incluindo Glue, EMR, Athena, SNS, Lambda, Step Functions, S3, Lake Formation, IAM e CloudWatch; • Conhecimento em bancos de dados NoSQL, como MongoDB e DynamoDB, e tecnologias relacionadas a Hadoop; • Experiência com arquitetura Lakehouse e Apache Iceberg, incluindo gerenciamento de tabelas analíticas, versionamento, evolução de schema, particionamento e otimização de performance; • Experiência com query engines para grandes volumes de dados, como Athena, Trino, Presto ou Spark SQL; • Conhecimento em formatos colunares, como Parquet e ORC; • Experiência com modelagem dimensional, incluindo fatos, dimensões, granularidade, chaves, hierarquias, métricas e indicadores; • Experiência no processamento de dados estruturados, semiestruturados e não estruturados; • Conhecimento na execução de testes unitários e testes de performance; • Experiência com boas práticas de segurança, controle de acesso e monitoramento em ambientes Cloud. Diferenciais: • Certificações AWS Practitioner e AWS Data Engineer; • Experiência com Data Quality e Data Observability, incluindo validações de completude, consistência, unicidade, integridade e acurácia, monitoramento contínuo e detecção de anomalias; • Conhecimento em infraestrutura como código, como Terraform, e ferramentas de monitoramento, como CloudWatch; • Conhecimento em Data Mesh, incluindo dados como produto, ownership por domínio, governança federada, infraestrutura self-service, contratos de dados e catálogo; • Conhecimento em Inteligência Artificial aplicada a dados, incluindo feature stores, integração de pipelines com modelos de IA e preparação de dados limpos e rastreáveis para utilização em modelos. • Descrição comportamental: • Procuramos uma pessoa que: • Goste de trabalhar em equipe e seja colaborativa em suas atribuições; • Tenha coragem para se desafiar e ir além, abraçando novas oportunidades de crescimento; • Transforme ideias em soluções criativas e busque qualidade em toda sua rotina; • Tenha habilidades de resolução de problemas ; • Possua habilidade e se sinta confortável para trabalhar de forma independente e gerenciar o próprio tempo ; • Tenha interesse em lidar com situações adversas e inovadoras no âmbito tecnológico. • Big enough to deliver – small enough to care. • #VempraGFT • #VamosVoarJuntos • #ProudToBeGFT