Enterprise AI Stack

Uma arquitetura para conectar modelos, conhecimento, trabalho e valor

Toda empresa com quem converso está em algum ponto da curva de adoção de IA. Poucas, porém, conseguem mostrar um mapa compartilhado de onde a tecnologia realmente se encaixa na organização.

As conversas costumam saltar entre “qual modelo devemos usar?” e “como governamos agentes?”, sem uma arquitetura que conecte essas duas pontas. É nessa lacuna que muitas iniciativas de IA perdem força: não necessariamente porque o modelo é ruim, mas porque o sistema ao redor dele não está pronto para produzir valor de forma confiável.

Comecei a esboçar um framework para organizar meu próprio raciocínio ao longo de conversas com clientes. Ele se mostrou útil o suficiente para continuar voltando a ele. A proposta tem sete camadas, de baixo para cima — com três capacidades transversais que atravessam todas elas: identidade e permissões, avaliação e observabilidade, segurança e governança.

Camada 1 — Modelos e inferência

Esta é a camada do motor de raciocínio: modelos de linguagem, modelos multimodais, embeddings, fine-tuning e os mecanismos de inferência que transformam entradas em saídas.

É a camada que concentra a maior parte da conversa pública. Para muitos casos de uso corporativos, porém, os modelos de ponta já são suficientemente capazes para que a decisão não seja apenas “qual modelo é mais inteligente?”. Custo, latência, privacidade, estabilidade, janela de contexto, especialização e facilidade de avaliação também importam.

A escolha do modelo pode ser decisiva em tarefas específicas. Mas, em muitos projetos, o gargalo aparece mais adiante: no conhecimento disponível, na qualidade do processo, nas permissões e na forma como o resultado é incorporado ao trabalho.

Camada 2 — Dados corporativos, identidade e permissões

Esta é a matéria-prima: documentos, tickets, registros de CRM, wikis, históricos de conversa e dados operacionais espalhados por vários sistemas.

O desafio não é apenas conectar fontes. É saber quais dados podem ser usados, por quem, em qual contexto, com que atualidade e com qual trilha de auditoria. Uma arquitetura de IA empresarial precisa tratar identidade, classificação, menor privilégio, retenção e logs como requisitos funcionais.

Um mecanismo de recuperação pode respeitar as permissões existentes — mas isso não corrige permissões erradas, grupos amplos demais ou documentos supercompartilhados. Por isso, “a IA só vê o que o usuário pode ver” deve ser uma propriedade testada do sistema, não uma suposição de marketing.

O NIST AI 600-1 recomenda reavaliar riscos após alterações como fine-tuning ou RAG e documentar proveniência, qualidade e limitações dos dados. No Brasil, o Guia IA Generativa do Governo Digital também recomenda cautela com informações internas, restritas ou sigilosas em ferramentas externas.

Em um artigo técnico sobre estrutura de permissões para IA generativa empresarial, a Glean destaca que permissões granulares precisam acompanhar as regras das fontes originais, inclusive grupos, exceções e acessos temporários. Em outro texto, propõe perguntas para avaliar conectores empresariais, como sincronização de ACLs, identidade entre sistemas e atualização de mudanças de acesso. São referências úteis para formular requisitos; não são, por si só, evidência independente de que uma implementação específica os cumpra.

Camada 3 — Contexto e conhecimento

Contexto não é sinônimo de dado.

Dado é o que existe nos sistemas de origem. Contexto é o que o sistema seleciona, interpreta e entrega ao modelo para uma tarefa específica: a política vigente, a definição interna de um termo, a exceção conhecida por uma equipe, o histórico relevante de um cliente ou a regra não escrita que muda a decisão.

É aqui que uma aplicação genérica começa a se tornar uma aplicação empresarial. Retrieval-augmented generation, busca híbrida, metadados, ontologias, memória, citações e conhecimento de especialistas são mecanismos para construir esse contexto. A Glean explica a diferença entre busca semântica e busca por palavras-chave e descreve como grafos de conhecimento podem estruturar contexto, conectando pessoas, documentos, projetos e sistemas. O valor desses textos, para este framework, está na definição dos componentes — não em assumir que uma arquitetura ou fornecedor seja universalmente superior.

Mas mais contexto não significa automaticamente melhor resposta. Contexto irrelevante, incompleto, desatualizado ou mal autorizado pode piorar o resultado. O NIST trata confabulação como a geração de conteúdo falso apresentado com confiança e recomenda verificar fontes, citações e grounding. A documentação da Microsoft sobre avaliação de RAG ajuda a separar problemas de recuperação, fundamentação, relevância e completude.

Essa camada é, na minha experiência, uma das mais subinvestidas nas implantações de IA.

Camada 4 — Aplicações e sistemas

É onde a IA deixa de ser uma janela de chat isolada e passa a fazer parte das ferramentas que as pessoas já usam: CRM, atendimento, suporte, vendas, engenharia, finanças e operações.

A integração importa por dois motivos. Primeiro, reduz o custo de adoção: a pessoa encontra a IA no fluxo em que o trabalho já acontece. Segundo, permite que o sistema use o estado real do processo e devolva o resultado ao lugar certo, em vez de produzir apenas uma resposta que alguém precisa copiar e colar.

A adoção não acompanha linearmente a quantidade de funcionalidades. Ela depende de confiança, tempo economizado, qualidade percebida e encaixe no trabalho real. Uma função tecnicamente impressionante pode fracassar se exigir que as pessoas mudem de sistema, reconstruam contexto ou assumam todo o risco da validação.

Camada 5 — Agentes e fluxos de trabalho

Aqui entra a autonomia: sistemas que planejam etapas, consultam ferramentas, atualizam registros e executam ações em vez de apenas responder perguntas.

O potencial é grande, mas a palavra “autonomia” precisa ser usada com precisão. Agentes em produção tendem a operar com escopo limitado, checkpoints e aprovação humana para ações de alto impacto, irreversíveis ou difíceis de corrigir. A OECD descreve justamente esse padrão: autonomia graduada, menor privilégio, monitoramento e pontos de controle.

A governança do agente precisa incluir sua identidade, ferramentas autorizadas, ações permitidas, limites de volume e valor, condições de interrupção, logs e responsável humano. Avaliar apenas a resposta final não basta; é preciso avaliar a sequência de decisões e ações do sistema. O guia da Glean sobre agentes empresariais organiza requisitos semelhantes — execução em múltiplas etapas, acesso controlado, auditoria e supervisão. Já o guia técnico sobre Glean Agents é útil para distinguir chamadas simples a LLMs de sistemas que combinam ferramentas, workflows, memória e avaliação; ambos devem ser lidos como perspectivas de um fornecedor, não como padrão normativo.

O entusiasmo por agentes é justificável. A ideia de que eles já operam com autonomia ampla e governança madura, não. Relatórios recentes mostram experimentação disseminada, mas escala empresarial ainda desigual. O caminho mais seguro é começar por workflows estruturados, resultados verificáveis e ações reversíveis.

Camada 6 — Pessoas, processos e governança

Esta é a camada menos técnica e, provavelmente, a mais decisiva.

Implantar IA muda responsabilidades, critérios de qualidade, cadeias de aprovação e habilidades necessárias. Também muda o que significa fazer um bom trabalho: talvez a pessoa não produza mais o primeiro rascunho, mas passe a definir o problema, verificar evidências, lidar com exceções e responder pelo resultado.

Por isso, uma implantação não deveria terminar em treinamento de ferramenta. Ela precisa redesenhar o workflow, definir quem aprova o quê, estabelecer quando a IA deve se abster ou escalar para uma pessoa e criar métricas para qualidade, risco e resultado.

O AI Index 2025, de Stanford registra crescimento acelerado da adoção, mas também mostra que os ganhos financeiros reportados são geralmente modestos. O NBER encontrou ganhos relevantes em um contexto específico de atendimento ao cliente, especialmente para trabalhadores menos experientes — uma evidência importante, mas não uma promessa universal.

A implantação falha aqui quando a organização compra uma ferramenta, mas não muda o trabalho que deveria capturar seu valor. Essa é também a linha de um texto da Glean sobre como criar uma estratégia de IA, que associa adoção a alinhamento estratégico, capacitação, governança, métricas e gestão da mudança. A referência reforça a tese, mas deve ser apresentada como orientação institucional da empresa, não como estudo independente.

Camada 7 — Resultados de negócio e aprendizado

Esta é a razão de todo o stack existir: receita, custo, tempo de ciclo, qualidade, satisfação do cliente, risco reduzido ou capacidade de fazer algo que antes não era viável.

Vale tratá-la como uma camada própria porque é surpreendentemente fácil otimizar as camadas abaixo sem verificar se o resultado realmente se moveu. Mais respostas, mais tokens ou mais usuários não são, por si só, valor.

Cada caso de uso deveria começar com uma hipótese mensurável: qual processo será melhorado, em quanto, para quem e com qual risco aceitável? A métrica pode ser tempo de resolução, taxa de erro, conversão, margem, retrabalho, satisfação ou custo por transação. O importante é conectar a métrica à decisão de continuar, mudar ou encerrar o caso de uso.

O resultado também precisa alimentar o stack de volta. Se a qualidade caiu, o problema pode estar no modelo, na recuperação, nos dados, no processo ou no desenho da supervisão. Resultado não é apenas a última camada; é o mecanismo de aprendizado de todo o sistema.

O que esse mapa muda

O Enterprise AI Stack não é uma receita para escolher ferramentas. É uma forma de localizar gargalos.

Quando uma iniciativa trava, vale perguntar:

• O modelo não é capaz o bastante — ou não está recebendo o contexto correto?

• O dado existe — ou está inacessível, desatualizado ou mal classificado?

• A resposta está correta — ou apenas parece plausível?

• A IA está no fluxo de trabalho — ou depende de uma janela que ninguém lembra de abrir?

• O agente tem autonomia compatível com o risco da ação?

• As pessoas sabem como trabalhar com o sistema e quando não confiar nele?

• O caso de uso moveu algum indicador relevante?

Se existe uma camada em que sua organização sempre bate na mesma parede, isso talvez não seja um problema exclusivamente seu. Pode ser um sinal de que aquela é, neste momento, a parede estrutural da adoção de IA empresarial.