Empresa: Omie
A Omie tem como propósito trazer prosperidade para o ecossistema empreendedor brasileiro. Por isso, buscamos por pessoas com mentalidade de crescimento, valorizando perfis que tenham capacidade de adaptação, senso colaborativo e sejam motivadas pela inovação e pelo aprendizado contínuo. Faça parte da história de uma das empresas de tecnologia que mais cresce no país! 🚀 #VempraOmie • Arquitetura & Ecossistema Cloud: Desenhar, construir e otimizar arquiteturas de plataforma de dados escaláveis, resilientes e seguras usando AWS e Databricks. • Engenharia de Pipelines & Data Lake: Construir pipelines automatizados usando AWS Glue, Databricks Jobs/Workflows, ingestão JDBC de fontes SQL Server multi-tenant e integrações via API REST (HubSpot, Jira, Sympla, Zoom). • Lakehouse Moderno: Arquitetar e manter o lakehouse em Delta Lake nas camadas bronze/silver/gold, com transações ACID, time travel, evolução de schema e estratégias de Z-ORDER/particionamento para custo e performance. • Governança & Segurança Corporativa: Arquitetar e manter controle de acesso granular, linhagem de dados e gestão de metadados via Databricks Unity Catalog em múltiplos workspaces, incluindo gestão de secret scopes e rotação de credenciais. • IA/ML & Analytics Conversacional: Construir e operacionalizar infraestrutura de dados para workloads de ML/IA e LLMs. Configurar espaços de Databricks AI/BI Genie, incluindo trusted assets, instructions e metric spaces, para suportar BI self-service em linguagem natural. • Otimização de Performance & Controle de Custo: Monitorar e otimizar SQL Warehouses e clusters de job do Databricks para performance e custo , incluindo atribuição via system.billing, dimensionamento de warehouse, detecção de ociosidade e tuning de queries. • Liderança Técnica & Mentoria: Guiar e mentorar engenheiros de dados sênior e pleno, estabelecendo boas práticas de engenharia em CI/CD, testes automatizados e versionamento. Requisitos: • Experiência: 7+ anos de experiência profissional em engenharia de dados, arquitetura de dados ou plataformas de big data. • Ecossistema AWS: Conhecimento avançado de AWS Data Lakes, incluindo experiência em migração cloud-to-lakehouse. • Orquestração & ETL: Experiência prática extensiva construindo workflows complexos de ingestão e transformação usando AWS Glue e Databricks Jobs. • Delta Lake: Conhecimento sólido de internals do Delta Lake — padrões de merge/upsert, otimização de tabelas (OPTIMIZE, Z-ORDER, VACUUM) e gestão de schema em escala. • Ecossistema Databricks: Domínio da plataforma Databricks, incluindo PySpark, Delta Live Tables e Serverless SQL Warehouses. • Governança: Experiência prática configurando e gerenciando Databricks Unity Catalog para gestão centralizada de metadados, controle de acesso e auditoria em múltiplos workspaces. • IA/ML & Databricks Genie: Experiência montando plataformas de dados para workflows de ML, MLOps e ferramentas conversacionais de IA, especificamente Databricks Genie, incluindo curadoria de Genie spaces, ajuste de prompts/instructions e integração com a semântica do Unity Catalog. • Programação & SQL: Proficiência avançada em Python e SQL.