Estudo Sage: gestores financeiros exigem mais transparência na IA

O estudo revela que sete em cada dez líderes financeiros rejeitarão os resultados da IA que não consigam explicar, o que destaca a necessidade de uma IA mais transparente e responsável. 

 

A Sage divulgou um novo estudo, realizado com a IDC, que revela que 71% dos responsáveis financeiros rejeitariam uma ferramenta de IA com 99% de precisão, se esta não conseguisse explicar as suas respostas.

As conclusões do estudo The Emerging Economics of AI in Finance sugerem que a transparência está a tornar-se um requisito fundamental para a adoção da IA no setor financeiro, à medida que as organizações procuram maior confiança, controlo e responsabilização relativamente aos resultados gerados pela IA.

Com base num inquérito realizado a mais de 2 mil responsáveis seniores pela tomada de decisões na área financeira a nível mundial, o estudo revelou que mais de metade das organizações estaria disposta a pagar mais por soluções de IA que proporcionassem maior visibilidade sobre o processo de tomada de decisões. Os resultados indicam que a transparência está a tornar-se um fator cada vez mais importante na forma como as organizações avaliam a IA.

“No mundo das finanças, estar quase certo sempre foi errado. À medida que a IA assume fluxos de trabalho cada vez mais complexos, o custo da incerteza é simplesmente demasiado elevado”, afirmou Aaron Harris, CTO da Sage. “Esta investigação mostra que a próxima era da IA não será conquistada apenas com a inteligência bruta dos modelos; será conquistada com uma infraestrutura de confiança”, acrescenta.

Perante os resultados do estudo, Aaron Harris defende que as equipas financeiras não se podem dar ao luxo de passar horas a fazer de detetives com os resultados da IA, que funcionam como uma caixa negra. “Precisamos de soluções que tragam maior transparência, controlo e rastreabilidade aos sistemas subjacentes a esses resultados, para que os líderes financeiros possam agir com absoluta confiança”.

De guardiões das contas a guardiões da confiança

As principais conclusões do estudo incluem:

• Mais de 30 horas “perdidas” por semana na verificação dos resultados da IA: os profissionais da área financeira passam quase 13 horas por semana a reconstruir, validar e defender os resultados da IA. A nível global, quase metade (48%) dedica mais de 15 horas por semana à verificação, enquanto quase um em cada cinco (19%) dedica mais de 30 horas.
• A precisão sem garantias de transparência é um risco inaceitável: a investigação revela que o desempenho não é suficiente se a IA não conseguir demonstrar o seu funcionamento, com mais de metade das organizações dispostas a pagar um prémio financeiro pelo aumento da transparência.
• As equipas financeiras estão a tornar-se os guardiões da confiança na IA: quando questionados sobre quais as competências mais importantes para um líder financeiro na atualidade, os inquiridos atribuíram quase o dobro da importância ao “risco, governação e capacidade de tomada de decisões” do que aos “conhecimentos técnicos aprofundados em contabilidade”.

Da IA de caixa preta à IA de caixa de vidro

Os resultados apontam para uma mudança mais ampla, afastando-se dos sistemas tradicionais de IA de «caixa preta» — em que é difícil analisar os resultados —, em direção a abordagens mais transparentes de «caixa de vidro», que proporcionam visibilidade sobre o raciocínio, as fontes e a lógica subjacentes às recomendações geradas pela IA. Refletindo esta tendência, 71 % dos líderes financeiros afirmam que a adoção, por parte de um fornecedor, dos princípios de conceção da «caixa de vidro» elevaria significativamente ou de forma decisiva o seu estatuto como parceiro preferencial.

A abordagem da Sage à IA na área financeira assenta na confiança desde a sua conceção – com uma IA que as equipas financeiras podem questionar, gerir e na qual podem confiar, com resultados explicáveis e verificáveis, ações controladas e total rastreabilidade de todas as decisões tomadas pela IA. Ao integrar a transparência e a auditabilidade nas suas capacidades de IA, a Sage permite que as equipas financeiras ajam com maior confiança, controlo e responsabilidade.

Kevin Permenter, Research Director for Financial Applications da IDC, acrescentou: “As organizações que alcançarão a vantagem mais duradoura em matéria de IA são aquelas que redefinem a infraestrutura de confiança, não como uma limitação à implementação da IA, mas como a base sobre a qual se constrói uma IA escalável. As organizações têm uma escolha: agir atempadamente para tornar a confiança operacional ou arriscar-se a ficar sobrecarregadas com os custos de verificação”.

 

Leia o estudo “The Emerging Economics of AI in Finance” na integra aqui.