Os gestores financeiros passam mais de 15 horas por semana simplesmente a validar os resultados produzidos pela IA. São quase dois dias de trabalho completos que a tecnologia deveria estar a devolver-lhes. Na área financeira, “quase certo” sempre significou errado.

Tal como muitos outros profissionais no setor da tecnologia, também eu tenho experimentado frameworks de agentes de inteligência artificial (IA) que estão sempre ativos, como o OpenClaw. Numa semana, consumi mais de 220 milhões de tokens. As faturas começaram a acumular-se tão rapidamente que fiz a única coisa lógica: criei um agente de contabilidade a que dei o nome “Artur”, para acompanhar todo o dinheiro que os meus outros agentes estavam a gastar.

Ao princípio, fiquei deveras impressionado. O Artur tratou rapidamente das faturas, introduziu-as numa folha de cálculo, registou os valores e categorizou as despesas. Mas depois verifiquei o seu trabalho. O registo contabilístico estava uma confusão. Tinha, inexplicavelmente, alterado categorias de despesas de “Despesas de IA” para “Serviços de Cloud”, eliminado aquilo que presumiu ser uma fatura duplicada e formatado as datas como cadeias de texto, de tal forma que a folha de cálculo nem sequer as conseguia interpretar. Quando lhe pedi que fizesse uma autoavaliação, o Artur deu a si próprio 5 em 10. O seu próprio resumo, brutalmente honesto, foi: “Uma folha de cálculo tão danificada como esta falharia qualquer fórmula básica ou tabela dinâmica.”

O agente inteligente “Artur” precisa de governação

A história do Artur é um exemplo de um problema sério que está a surgir em empresas de todo o mundo. Na corrida para adotar a IA generativa, instalou-se uma suposição perigosa de que a principal barreira à implementação é a falta de inteligência das máquinas. Esta perspetiva ignora a importância crítica da fiabilidade sistémica. Uma IA que impressiona numa demonstração, mas não é fiável num fluxo de trabalho real, é pior do que não ter solução nenhuma. Na área financeira, “quase certo” sempre significou errado.

A maioria das experiências com IA demonstra capacidades impressionantes, mas, na prática, revela-se perigosamente imprevisível. Este não é um modelo sustentável para funções empresariais críticas e está a criar um entrave à adoção. Uma investigação recente realizada pela Sage em parceria com a IDC concluiu que os responsáveis financeiros passam mais de 15 horas por semana simplesmente a validar resultados produzidos por IA. São quase dois dias de trabalho completos que a IA deveria estar a devolver-lhes.

O problema vai além da perda de produtividade. A mesma investigação revelou que 70% dos CFOs recusariam um resultado gerado por IA, mesmo que este estivesse correto 99% das vezes, se não conseguissem compreender o raciocínio que lhe estava subjacente. Isto não é resistência à tecnologia; é uma resposta racional ao risco. Para um empresário, um contabilista que apresenta declarações em nome de um cliente ou uma pequena empresa que não consegue suportar uma falha de conformidade, os riscos são simplesmente demasiado elevados. O custo de um erro pode ser uma auditoria fracassada ou uma penalização financeira. Ou, pior ainda, uma perda de credibilidade.

A tensão principal reside no facto de a contabilidade e o software serem sistemas construídos com base em invariantes, isto é, em premissas que têm de ser sempre verdadeiras. Os débitos têm de ser iguais aos créditos. Um código com um ponto e vírgula colocado no sítio errado não compila. A IA generativa, pelo contrário, é probabilística. Faz previsões, não promessas. O desafio não está na ambição do agente. Está na ausência de sistemas que regulem a forma como os agentes trabalham e garantam que operam dentro do mundo determinístico das finanças.

Da demonstração ao sistema de confiança

A passagem de uma demonstração engenhosa para um sistema de confiança depende da criação de uma nova arquitetura em que a confiança seja a base, e não algo acrescentado posteriormente. Isto exige transformar princípios abstratos numa realidade operacional através de uma governação clara.

Em primeiro lugar, isto significa ações rastreáveis e explicabilidade. Todas as ações realizadas por um agente têm de ser registadas e transparentes. Quando um auditor perguntar por que motivo uma transação foi registada, o sistema tem de conseguir dar uma resposta completa, incluindo o prompt que a desencadeou, os dados a que o agente teve acesso e a linha de raciocínio que aplicou. Tem de ser uma caixa de vidro, com vista desimpedida, e não uma caixa opaca.

Em segundo lugar, temos o controlo e a supervisão humanos. Os seres humanos têm de continuar no comando. As ações com consequências relevantes devem exigir sempre aprovação, e os agentes têm de operar dentro de limites claramente definidos. Quando a confiança de um agente é baixa, a sua programação deve obrigá-lo a encaminhar a questão para um especialista humano, em vez de adivinhar. Usando o Artur novamente como exemplo: nunca lhe faltou confiança, e esse é precisamente o problema. Quando lhe perguntei como corrigir os seus erros, deu-me uma resposta perfeitamente razoável e, em seguida, recomendou-me que aderisse ao software de um concorrente, sem fazer ideia de que estava a falar com o CTO da Sage. Não errou ao analisar a questão. Errou ao adivinhar quando não precisava de o fazer.

Os pilares da governação da IA

Tudo isto tem de ser sustentado por uma governação exigente. Não podemos acrescentar confiança a posteriori. Isto significa aplicar aos agentes de IA o mesmo rigor que aplicamos aos seres humanos: autenticação robusta, permissões baseadas em funções, fluxos de aprovação e separação de funções. Um agente só deve poder agir com a autoridade do utilizador que o invocou.

Importa construir aquilo que chamamos de “Agent OS”, ou seja, um ambiente operacional para agentes que torna possível a visão de uma IA de confiança. Não se trata apenas de criar um único agente inteligente, mas sim de construir os sistemas que regulam a forma como todos os agentes operam. Nesse sentido, é uma plataforma que garante que cada agente dispõe das competências e ferramentas adequadas para a tarefa. Até os LLMs mais recentes, com competências matemáticas ao nível de um doutoramento, tentam fazer cálculos “de cabeça”. Mas preferimos que utilizem uma calculadora. Este “Agent OS” disponibiliza essas ferramentas determinísticas.

Esta é a camada de controlo que torna possível uma inteligência autêntica. E estas medidas não são meros exercícios de conformidade para cumprir requisitos. São a ponte essencial entre o potencial da IA e a sua aplicação prática e fiável no mundo real.

A era da IA nas finanças já ultrapassou a questão de saber se devemos implementar agentes e passou para uma questão mais importante: como garantir que não comprometemos os nossos padrões de rigor, exatidão e responsabilização? Desde então, o Artur foi dispensado das suas funções de contabilidade, mas a lição que me ensinou é a mais importante desta nova era: as empresas que conseguirão implementar IA com confiança não serão aquelas que tiverem os agentes mais capazes. Serão aquelas que dispuserem dos sistemas necessários para os governar devidamente”.

Aaron Harris
Chief Technology Officer (CTO) da Sage

Artigo de opinião publicado em Eco.