Contexto reduz a incerteza. Mas não elimina o acaso

Quanto mais contexto damos para uma IA, melhor ela consegue responder.

Essa ideia tem aparecido bastante nas minhas reflexões sobre Enterprise AI. Afinal, uma empresa não é apenas um conjunto de documentos disponíveis para um modelo de linguagem.

Existe contexto em toda parte.

Quem é a pessoa fazendo a pergunta.

Qual é o seu papel na organização.

Quais documentos ela pode acessar.

O que aconteceu antes.

Quais decisões já foram tomadas.

Qual é a informação mais atual.

Quem são as pessoas envolvidas.

Quais são as regras e processos da empresa.

Sem esse contexto, a IA pode produzir uma resposta que parece perfeita e, ainda assim, estar completamente errada para aquela situação.

Com contexto, a resposta pode se tornar muito mais precisa.

Mas recentemente comecei a pensar em uma pergunta complementar:

Será que contexto suficiente permite prever qualquer coisa?

A resposta, provavelmente, é não.

E essa conclusão ficou mais interessante para mim quando conectei duas leituras que, à primeira vista, parecem não ter muita relação: O Andar do Bêbado, de Leonard Mlodinow, e Machines of Loving Grace, de Dario Amodei.

O problema de explicar o que já aconteceu

Em O Andar do Bêbado, Mlodinow explora nossa relação com o acaso e mostra como somos muito ruins em reconhecer o papel que a aleatoriedade desempenha nas nossas vidas.

O problema é que nosso cérebro não gosta de aleatoriedade. Ele gosta de histórias.

Imagine que uma empresa tenha um crescimento excepcional durante três anos. É muito fácil olhar para trás e construir uma explicação:

A liderança tomou as decisões certas.

O produto era superior.

A estratégia de vendas funcionou.

A cultura era diferenciada.

O momento de mercado foi perfeito.

Talvez tudo isso seja verdade. Mas talvez uma parte do resultado tenha sido simplesmente sorte. Ou uma combinação de dezenas de fatores que ninguém conseguiu identificar completamente. O resultado aconteceu primeiro e a explicação veio depois.

Esse é um dos problemas que Mlodinow explora: temos uma tendência enorme a confundir um resultado observado com uma relação causal.

E isso fica ainda mais interessante quando pensamos em inteligência artificial.

Uma IA muito inteligente pode encontrar padrões onde não existe nenhum

Imagine uma IA analisando dez anos de dados de uma empresa.Ela tem acesso a tudo:

vendas, clientes, contratos, reuniões, emails, documentos, resultados financeiros, histórico de decisões, organogramas.

Ela encontra uma correlação interessante, e apresenta uma explicação extremamente convincente para determinado resultado. A pergunta deveria ser:

Esse padrão é real ou estamos apenas vendo uma coincidência?

Uma IA muito mais inteligente pode ser muito melhor do que nós em encontrar padrões.

Mas encontrar um padrão não significa necessariamente encontrar uma relação causal.

E esse problema não desaparece simplesmente porque o modelo ficou mais inteligente.

Na verdade, existe uma possibilidade ainda mais interessante:

Quanto melhor a IA ficar em construir explicações, mais convincente poderá ser uma explicação errada.

Isso muda um pouco a conversa sobre confiança em AI. Talvez não devêssemos perguntar apenas:

“A IA consegue encontrar a resposta?”

Mas também:

“Quão previsível é o problema que estamos tentando resolver?”

É aqui que entra o problema dos três corpos

Em Machines of Loving Grace, Dario Amodei usa o famoso problema dos três corpos como uma maneira de ilustrar um limite diferente: complexidade intrínseca.

Imagine três corpos no espaço, cada um exercendo força gravitacional sobre os outros dois.

As regras físicas são conhecidas. Não existe necessariamente uma aleatoriedade envolvida.

Ainda assim, pequenas diferenças nas condições iniciais podem se amplificar ao longo do tempo e produzir trajetórias muito diferentes.

Ou seja, o problema não é simplesmente:

“Não somos inteligentes o suficiente para calcular.”

Existe algo mais fundamental acontecendo. O sistema pode ser extremamente sensível às condições iniciais e isso significa que aumentar indefinidamente a capacidade computacional não transforma automaticamente o sistema em algo perfeitamente previsível. E essa é uma distinção importante.

Inteligência não é a mesma coisa que previsibilidade.

Contexto é uma forma de reduzir a incerteza

Isso me fez voltar à discussão sobre contexto na Enterprise AI.

Quando falamos que uma IA precisa de contexto, não estamos dizendo apenas que ela precisa de mais dados, estamos falando de algo muito mais amplo. Uma pergunta como:

“Qual foi a decisão sobre esse cliente?”

Não pode ser respondida corretamente apenas com conhecimento geral. A IA precisa saber:

• qual cliente;

• quem está perguntando;

• qual é o relacionamento dessa pessoa com o cliente;

• quais decisões foram tomadas anteriormente;

• quais reuniões aconteceram;

• quais documentos são relevantes;

• qual informação é mais recente;

• quais são as permissões de acesso;

• quais pessoas participaram;

• qual é o contexto organizacional daquela decisão.

Esse contexto reduz drasticamente a possibilidade de uma resposta errada.

É por isso que acredito que contexto é um dos grandes diferenciais da Enterprise AI.

Não basta ter um modelo inteligente, é preciso conectar esse modelo ao conhecimento real da organização. Mas existe uma ressalva importante:

Contexto reduz incerteza. Não elimina o acaso.

Existe uma diferença entre não saber e não poder saber

Essa talvez seja a parte mais interessante dessa reflexão. Imagine duas situações.

Na primeira, a IA não consegue responder porque não tem acesso ao documento correto.

Isso é um problema de contexto. Dê o acesso correto e talvez o problema desapareça.

Na segunda, temos todas as informações disponíveis, mas o sistema é tão complexo ou caótico que não podemos prever seu comportamento com precisão por muito tempo.

Isso é diferente.

Não estamos diante de uma IA que "não sabe". Estamos diante de um mundo que não pode ser previsto perfeitamente. Essa distinção será cada vez mais importante à medida que os sistemas de AI ficarem melhores.

O futuro da Enterprise AI não é apenas responder melhor

Durante muito tempo, a discussão sobre AI esteve concentrada na qualidade do modelo.

Qual modelo é mais inteligente?

Qual tem melhor raciocínio?

Qual escreve melhor?

Qual consegue resolver problemas mais complexos?

Tudo isso continua sendo extremamente importante.

Mas, dentro de uma empresa, existe uma outra dimensão.

O modelo sabe o suficiente sobre o contexto para responder aquela pergunta específica?

E existe uma dimensão adicional que talvez receba menos atenção:

O modelo sabe quando não tem condições de responder com confiança?

Uma boa Enterprise AI deveria conseguir diferenciar pelo menos três situações:

“Eu sei.”

Tenho evidências suficientes e o contexto correto para responder.

“Eu não sei, mas posso descobrir.”

Existe informação faltando, mas ela pode ser encontrada.

“Isso não pode ser previsto com confiança.”

Temos informação suficiente, mas o problema envolve incerteza, acaso ou complexidade que limita a previsão. Essa terceira categoria é particularmente importante.

Porque existe uma diferença enorme entre uma IA que simplesmente diz:

“Não sei.”

e uma IA que consegue explicar:

“Com base nas informações disponíveis, esta é a conclusão mais provável, mas existem fatores que tornam a previsão incerta.”

Isso é muito mais próximo de como precisamos tomar decisões no mundo real.

Talvez o verdadeiro objetivo não seja eliminar a incerteza

Talvez seja aprender a administrá-la melhor. Contexto é fundamental porque nos permite eliminar uma enorme quantidade de incerteza desnecessária.

Se a IA não sabe qual é a versão mais recente de um contrato, precisamos dar acesso ao contrato, se não sabe quem é responsável por determinada decisão, precisamos conectar o conhecimento organizacional, se não sabe quais informações aquele funcionário pode acessar, precisamos considerar permissões, se não conhece o histórico de uma decisão, precisamos recuperar esse histórico. Tudo isso é contexto. E tudo isso pode tornar uma resposta muito melhor. Mas, depois de eliminar toda a incerteza que pode ser eliminada, ainda sobra alguma coisa.

O acaso.

A complexidade.

O comportamento humano.

A imprevisibilidade.

O futuro.

E talvez essa seja uma das lições mais importantes para a próxima fase da Enterprise AI:

não precisamos de uma IA que finja que o mundo é previsível.

Precisamos de uma IA que tenha contexto suficiente para separar aquilo que pode ser conhecido daquilo que permanece incerto. Porque uma resposta precisa não é necessariamente uma previsão certa.

E uma IA realmente confiável talvez seja aquela que consegue nos dizer não apenas qual é a resposta mais provável, mas também por que devemos ou não confiar nela.

No fim, talvez contexto seja uma das ferramentas mais poderosas para aumentar a precisão da IA.

Mas precisamos lembrar:

Contexto pode reduzir a incerteza, mas não pode eliminar o acaso.