Como criar ferramentas de IA fiáveis para o sucesso do cliente

A Inteligência Artificial (IA) está a revolucionar a forma como o setor da contabilidade trabalha, elevando o desempenho humano ao assumir tarefas repetitivas e ao acelerar a análise. Porém, a contabilidade baseia-se na confiança.

Para as pessoas se sentirem seguras a passar o trabalho para as mãos da tecnologia, é fundamental que as empresas garantam o bom funcionamento da IA e um resultado seguro e competente. Um estudo recente da KPMG, por exemplo, revelou que 61% das pessoas têm receio de confiar nos sistemas de IA. Para incutir confiança na IA e para apoiar o papel dos contabilistas é necessário adotar uma abordagem responsável e humilde em estreita colaboração com os clientes ao longo de todo o processo, assegurando que estes têm confiança não só na tecnologia, mas também na empresa por detrás da tecnologia.

 

Humildade e responsabilidade

A IA pode ser uma poderosa ferramenta para fazer o bem. Contudo, devido à sua velocidade e escala de operações, pode, ao mesmo tempo, causar danos. Independentemente se existe ou não recurso à IA, a responsabilidade dos resultados residirá sempre nos seres humanos. É, assim, crucial encontrar um equilíbrio onde a IA integra e melhora o fluxo de trabalho, mas a orientação e os contributos humanos continuam a ser essenciais para o processo.

É essencial que os programadores reflitam e explorem todos os resultados potenciais da criação de um produto para resolver um desafio de negócio. Isto porque existe o risco de a IA ser tendenciosa, podendo atribuir injustamente pontuações mais baixas a empresas pertencentes a mulheres ou minorias. É prudente ser cauteloso quanto à utilização da IA a fim de evitar prejudicar involuntariamente determinados grupos, garantindo a equidade para todas as empresas.

Considerações éticas

Uma das principais questões que se deve ter em conta em relação ao uso da IA é definir desde o início o que se pretende e não pretende fazer com esta ferramenta, impedindo potenciais preconceitos que possam surgir na IA. Isto permite orientar os programadores a respeito dos problemas que podemos resolver com a IA, sem riscos para a sociedade, evitando consequências indesejadas das informações fornecidas pela IA a partir de dados de formação e fontes de dados. Utilizar auditores de IA para identificar áreas específicas a abordar, bem como investir no recrutamento de talentos diversificados para as equipas de desenvolvimento, também pode combater possíveis enviesamentos.

De facto, a diversidade continua a ser um problema na indústria de IA, com menos de 25% dos funcionários a identificarem-se como uma minoria racial ou étnica, segundo um estudo da McKinsey. Além disso, as mulheres representavam apenas 26% dos trabalhadores em IA e dados a nível global, e é previsível que essa percentagem não tenha melhorado desde então. Nesse sentido, é importante estabelecer conselhos consultivos a fim de testar soluções e inovações de IA com um público diversificado.

 

Uma abordagem centrada no cliente e de confiança

Basta um erro para perder a confiança num contabilista – especialmente nas pequenas empresas. É por isso que é extremamente importante que, quando os contabilistas começam a utilizar a tecnologia para automatizar trabalhos, tenham confiança de que vai funcionar corretamente.

Ao trabalharmos em colaboração com os nossos clientes, conseguimos compreender de forma direta quais as necessidades que a IA pode colmatar e utilizar os comentários para adaptá-la melhor à sua finalidade, ou seja, libertar tempo aos contabilistas para a liderança estratégica. É caso disso o General Ledger Outlier Detection da Sage, que identifica anomalias nas transações de forma agrupada e apresenta-as como potenciais problemas, poupando tempo de análise de milhares de transações.

Os utilizadores devem sentir-se em controlo

Um dos principais fatores para garantir o bom funcionamento e gestão da IA é ter em consideração as emoções humanas. É um facto que cabe à intuição humana questionar se a tecnologia está a fazer o que diz. Assim, ao ter em conta o lado emocional, é possível conceber uma solução com o grau certo de supervisão e controlo humano. Em suma, a regra deve ser: quanto mais ansioso um utilizador se sentir em relação a um erro, mais controlo deverá ter sobre o processo.

Por exemplo, no caso de ferramentas que utilizem IA para classificar, determinar o assunto, definir próximos passos e até sugerir alternativas de reposta a um email, é fundamental ter a opção de editar ou descartar a solução proposta. Assim, o contabilista continua a ser o responsável; a IA apenas o ajuda a obter uma resposta mais rapidamente.

Criar confiança em todas as fases

A IA já está a impulsionar o sector da contabilidade, mas à medida que a sua adesão aumenta, a confiança na tecnologia vai ser ainda mais crucial. Para tal, é necessário implementar algumas estratégias. Em primeiro lugar, a IA tem de ser exata para que as pessoas possam ter confiança nos seus resultados. Em segundo, importa ser honesto quanto às limitações da IA. As empresas precisam de ter a certeza de que os programadores testaram exaustivamente e consideraram cuidadosamente o seu impacto na sociedade. É fundamental ainda ser transparente, monitorizar-se e cumprir os regulamentos à medida da sua evolução. Por último, é necessário haver uma articulação entre a IA e os seus utilizadores, para garantir que a IA atua da forma correta.

A oportunidade de a IA potenciar as pequenas e médias empresas é enorme. A confiança é o fator diferenciador que pode ajudar a desbloquear esse potencial.

Aaron Harris
CTO da Sage

Artigo de opinião publicado em Link to Leaders