Arquiteto de Dados SR - Databricks em Azure (Plataforma, FinOps e Sustentação)

Empresa: Stefanini

Buscamos um(a) Arquiteto(a) de Dados para apoiar a Diretoria Técnica e a equipe que sustenta o ambiente. O objetivo é deixá-lo estável, monitorado, integrado aos sistemas internos e financeiramente eficiente , aplicando boas práticas de mercado. Não é um papel de desenvolvimento de pipelines de negócio: é engenharia e governança de plataforma , com influência técnica e interação frequente com a liderança. Você atuará junto ao Arquiteto de Soluções Databricks responsável pela conta. • Revisar e evoluir a arquitetura do Databricks (workspaces, metastore, Unity Catalog, contas e ambientes), com recomendações claras e fundamentadas • Definir e aplicar padrões de infraestrutura como código para toda a plataforma • Desenhar e revisar a rede: VNet injection, subnets, NSGs, Private Link/Private Endpoints, DNS, rotas, firewall/NVA e conectividade on-premises (ExpressRoute/VPN) • Definir storage (ADLS Gen2, containers, external locations, credenciais e Managed Identities), resource groups, subscriptions, tags e Azure Policy • Cuidar de identidade e acesso: Entra ID, SCIM, grupos, service principals e RBAC • Implantar observabilidade da plataforma e dos workloads (system tables, métricas, logs, alertas e dashboards) e integrar o Databricks a ITSM, SIEM, monitoramento corporativo, catálogos e identidade • Estruturar runbooks, SLAs/SLOs, gestão de incidentes e análise de causa raiz • Preparar o ambiente para continuidade de negócio: backup, DR e estratégia de recuperação • Definir e implantar CI/CD para notebooks, jobs, pipelines e infraestrutura (Databricks Asset Bundles, Terraform, Azure DevOps ou GitHub Actions), com promoção entre ambientes, versionamento, testes e quality gates • Criar templates e golden paths para as equipes de dados • Construir visibilidade de custos (system tables de billing, tags, budgets, chargeback/showback) e apresentar a evolução de custo e eficiência aos gestores de forma executiva • Fazer right sizing de clusters, SQL Warehouses e jobs (cluster policies, autoscaling, serverless, escolha de instâncias) e identificar desperdícios e economias (Predictive Optimization, Liquid Clustering, otimização de jobs, reservas e commit) • Aplicar boas práticas de segurança (criptografia, segregação de ambientes, gestão de segredos, auditoria e conformidade) e apoiar a governança de dados com Unity Catalog (permissões, lineage, masking e row filters). Requisitos: • Experiência comprovada em projetos de grande porte: ter desenhado, implantado e sustentado ambientes Databricks de escala corporativa em produção (serão solicitados exemplos concretos: tamanho do ambiente, usuários, workloads e desafios resolvidos) • Conhecimento profundo de Databricks: workspaces, Unity Catalog, compute (clusters, pools, SQL Warehouses, serverless), Jobs/Lakeflow, Delta Lake, system tables e administração de conta • Conhecimento avançado de Azure aplicado ao Databricks: rede (VNet, Private Link, DNS, firewall), ADLS Gen2, resource groups, Entra ID, Azure Policy e Key Vault • Experiência prática com Terraform (providers Databricks e Azure) e CI/CD (Azure DevOps, GitHub Actions ou equivalente) • Experiência com monitoramento e observabilidade (Azure Monitor, Log Analytics, Grafana, Datadog ou similar) e integração com ferramentas corporativas • Experiência com FinOps e otimização de custos em nuvem e em Databricks • Boa comunicação com times técnicos e liderança, capaz de explicar decisões técnicas e trade-offs a públicos executivos • Português fluente e inglês técnico para leitura de documentação • Disponibilidade para presença no cliente cerca de 1x por semana (negociável) Diferenciais • Certificações Databricks (Data Engineer, Platform Administrator, Architect) e/ou Azure (AZ-104, AZ-305, AZ-500, DP-203) • Experiência em setores regulados (financeiro, seguros, saúde, setor público) • Migração de plataformas legadas (Hadoop/Cloudera, data warehouses on-premises) para Databricks • Segurança avançada e conformidade (LGPD e regulações setoriais) • Cargas de ML/IA em produção (MLOps, Model Serving) do ponto de vista de plataforma • Vivência em Platform Engineering e Center of Excellence

Ver todas as vagas · Mais vagas em Brasília/DF