The posting
Estamos construindo soluções de IA Generativa chatbots corporativos, assistentes com RAG, agentes que executam ações e fluxos de automação, utilizando LLMs já disponíveis no mercado. Buscamos uma pessoa para liderar tecnicamente iniciativas que envolvem estratégia avançada de soluções de LLM nos principais provedores, como OCI, AWS e Azure.
O desafio é gerar valor a partir das capacidades das LLMs modernas para resolver problemas complexos, explorando recursos como tools, thinking, agents e LLM skills. Essas capacidades se somam a um ecossistema de gestão que abrange disponibilidade e uso de modelos, billing, gestão de tokens, FinOps, RBAC e ABAC, entre outros elementos de governança.
O que você vai fazer
- Arquitetar o ecossistema de GenAI da solução, escolhendo o padrão certo para cada problema: chatbots com capacidade comparável à dos grandes fornecedores (OpenAI, Claude, Gemini), uso intensivo de tools específicas por modelo e fluxos determinísticos para responder a perguntas complexas que envolvem cálculos precisos.
- Operar a camada conversacional: autenticação, controle de acesso (RBAC e ABAC), gestão de múltiplos modelos/provedores e governança de conversas.
- Projetar os processos de busca, combinando busca determinística (NL2SQL) com busca semântica/RAG (vetorial e híbrida), garantindo que aquilo que não pode errar seja tratado por código — e não pela "criatividade" do modelo.
- Especificar e integrar agentes e ferramentas (function calling / tools, MCP): quais ações o agente pode executar, tratamento de falhas, limites de autonomia e supervisão humana em ações sensíveis.
- Coordenar a plataforma de dados e serving no Databricks (Vector Search, Mosaic AI, model serving, Unity Catalog): versionamento, atualização e permissões dos dados que alimentam o RAG.
- Garantir avaliação e observabilidade do ecossistema: qualidade das respostas, fidelidade às fontes, alucinação, custo por interação (tokens), latência e escalabilidade.
- Definir guardrails e segurança: prevenção de prompt injection, mascaramento de PII, filtros de conteúdo e conformidade (LGPD, AI Act).
- Gerir custo e escolha de modelo: roteamento entre modelos, caching e controle de consumo de tokens.
- Alinhar expectativas de stakeholders, comunicando progresso, limitações e trade-offs de forma clara para públicos técnicos e não técnicos.
- Capacidade de gerar informações analiticas: para ajudar a entender o que ocorre por todo processo de serviços de GENAI.
O que buscamos
- Experiência prática construindo aplicações de LLM em produção (não apenas provas de conceito).
- Domínio de RAG de ponta a ponta: chunking, embeddings, bancos vetoriais, busca híbrida, busca determinística, NL2SQL, arquitetura agêntica, reranking e diagnóstico de falhas de recuperação.
- Engenharia de prompts e padrões de design de LLM (few-shot, structured output/JSON, chain-of-thought).
- Experiência com frameworks de orquestração de agentes (LangChain/LangGraph, CrewAI, Agno, LlamaIndex, AutoGen, Semantic Kernel ou similares) e com function calling / tools / skills.
- Vivência com Databricks aplicado a GenAI (Vector Search, Mosaic AI, Unity Catalog) e base de Spark/SQL.
- Clareza sobre a fronteira entre o determinístico e o probabilístico — saber onde o código previsível termina e o LLM começa.
- Fluência em Python e noções de infraestrutura (Docker, APIs REST, deploy de serviços).
- Capacidade de avaliar sistemas de LLM (suítes de teste, LLM-as-a-judge com cautela, testes de regressão).
- Perfil de liderança técnica: coordenar equipe, priorizar e traduzir necessidades de negócio em solução técnica.
Diferenciais
- Experiência com plataformas corporativas como OpenAI, Claude, Gemini e Perplexity.
- Familiaridade com MCP (Model Context Protocol) e arquiteturas multiagente.
- Uso de ferramentas de observabilidade de LLM (Langfuse, LangSmith ou equivalentes).
- Experiência com segurança de GenAI (prompt injection, escopo de assistentes, dados não confiáveis).
- Conhecimento de governança de dados e conformidade regulatória aplicada a IA.
- Estratégia multiprovedor e otimização de custo em escala.
- Conhecimento em ferramentas de analise de dados para geração de dashboard e cockpits
Informações Adicionais
Modelo de contratação: PJ
