Estamos usando a IA para a coisa errada

Nos últimos meses, começaram a surgir notícias sobre empresas reduzindo investimentos ou até abandonando grandes projetos de Inteligência Artificial. Para muitos observadores, isso parece um sinal de que a tecnologia foi superestimada e que estamos diante do fim de mais uma onda de hype.

Não acredito que seja isso que está acontecendo.

Na minha visão, o que estamos presenciando é algo mais interessante: o mercado está finalmente começando a entender o que os modelos atuais fazem bem e o que eles ainda não fazem.

Inteligência não é a mesma coisa que previsibilidade

Grande parte da empolgação inicial com os modelos de linguagem veio da impressão de que eles seriam capazes de substituir sistemas corporativos inteiros. Afinal, se uma IA consegue escrever textos, resumir documentos, responder perguntas e gerar código, por que não poderia assumir processos de negócio completos?

A resposta está em uma característica fundamental desses modelos.

Eles são extraordinariamente bons em compreender linguagem, contexto e significado. Conseguem analisar contratos, resumir reuniões, interpretar solicitações de clientes e encontrar padrões em grandes volumes de informação não estruturada.

Mas a maioria dos processos críticos das empresas não depende apenas de compreensão. Depende principalmente de previsibilidade.

Uma empresa pode aceitar que uma IA produza um resumo diferente do mesmo documento em duas ocasiões distintas. O mesmo não acontece quando estamos falando de cálculos financeiros, processamento de folha de pagamento, faturamento, apuração tributária ou liquidação bancária.

Nesses casos, o resultado precisa ser exatamente o mesmo hoje, amanhã e daqui a dez anos.

Não basta estar correto quase sempre. É preciso estar correto sempre.

Muitos desses projetos cancelados recentemente fracassaram porque partiram de uma premissa equivocada: a ideia de que modelos de IA poderiam substituir sistemas tradicionais.

Quando tentamos transformar um modelo probabilístico em um mecanismo determinístico de regras de negócio, começamos a lutar contra a própria natureza da tecnologia.

Recentemente vivi uma experiência que ilustra bem essa limitação

Um dia, acordei com a brilhante ideia de usar a IA para validar as tarefas executadas pelos alunos.

Hoje, as tarefas são validadas por scripts escritos em bash que executam um monte de greps. E eu queria fazer algo muito maior.

Eu só teria que juntar a especificação da tarefa, o programa codificado ou alterado pelo aluno, as evidências de teste e um system prompt, modificar o script para chamar APIs da IA, e o feedback não seria só uma lista de verdadeiros ou falsos: a IA verificaria se a tarefa foi concluída com sucesso e faria recomendações, sugestões e observações que melhorariam a experiência do aluno.

Foi um fracasso completo.

Depois de duas semanas rolando no tatame com ChatGPT, Claude e Gemini, eu (e os três) chegamos à mesma conclusão: eu estava tentando usar um modelo desenvolvido para análise semântica como um modelo de análise determinística.

Em muitos casos, as IAs não conseguiam nem mesmo identificar se uma determinada variável havia sido declarada corretamente ou não. Elas simplesmente viam um comando DISPLAY WT-VR-SALARIO na PROCEDURE DIVISION e assumiam que a variável havia sido declarada na WORKING.

E isso me foi dito, textualmente, pelas três ferramentas.

Descobri, na prática, que a tarefa exigia um nível de consistência e objetividade que os modelos atuais não conseguem garantir. Em alguns casos, soluções corretas recebiam críticas injustificadas; em outros, programas incompletos eram considerados aceitáveis. O problema não era falta de conhecimento sobre COBOL. O problema era esperar que uma tecnologia projetada para interpretar significados atuasse como um compilador ou uma suíte de testes automatizados.

Em resumo, eu estava tentando usar um carro de corrida para arar um terreno.

Conclusão

Durante décadas, sistemas corporativos foram construídos sobre uma premissa simples: o computador deve executar exatamente aquilo que foi programado para fazer.

Essa é a base sobre a qual operam bancos, seguradoras, governos, hospitais e grandes empresas.

A chegada da IA não eliminou essa necessidade.

Na verdade, tornou sua importância ainda mais evidente.

Quanto mais crítica é uma aplicação, menos importante se torna a aparência de inteligência e mais importante se torna a garantia de comportamento.

Por isso, acredito que o futuro não pertence nem à substituição completa do software tradicional pela IA nem ao abandono da IA por causa de suas limitações atuais.

O futuro provavelmente pertence à combinação dos dois mundos.

A IA ficará responsável por interpretar, compreender e auxiliar decisões humanas. O software tradicional continuará responsável por executar processos com precisão, consistência e rastreabilidade.

Porque, no fim das contas, quando uma empresa processa bilhões de reais, calcula impostos ou paga salários, a característica mais valiosa de um sistema não é sua inteligência.

É sua previsibilidade.