Agentes de IA exigem novas regras de governação financeira

Os responsáveis financeiros devem começar a adoção de agentes de IA através de projetos de baixo risco que permitam testar os mecanismos de governação antes de expandir a tecnologia a processos mais críticos, recomenda a Gartner, numa entrevista com o seu Director Analyst na área de Finance, Alex Levine, sobre a utilização destes sistemas na área financeira.

Durante a entrevista à consultora, o analista revela que os agentes de IA apresentam riscos diferentes dos associados à automatização tradicional ou à IA generativa devido ao seu maior grau de autonomia. “Ao contrário da automatização tradicional, que segue regras fixas, ou da IA generativa, que gera conteúdos, os agentes de IA interpretam objetivos, planeiam e executam etapas e interagem com vários sistemas”, explica. 

Esta autonomia significa também que os agentes podem tomar decisões e executar ações que não são facilmente visíveis ou explicáveis por humanos. “Significa ainda que os erros ou avaliações incorretas podem propagar-se rapidamente se a supervisão não for clara”, alerta Alex Levine, acrescentando que o risco deixa de estar apenas no resultado e passa a abranger todo o processo.

Primeiros projetos devem testar a governação

Para o analista, o primeiro projeto de um agente de IA na área financeira deve ser encarado sobretudo como um teste aos mecanismos de governação e não como uma forma de obter retorno financeiro imediato.

“Os maiores riscos e o maior valor estão no estabelecimento da supervisão, e não na procura de ganhos financeiros rápidos. Os primeiros projetos têm maior probabilidade de falhar devido à falta de clareza nos controlos do que a uma tecnologia deficiente”, afirma Alex Levine.

A Gartner recomenda, por isso, começar por um processo de baixo risco, com limites claros, etapas repetíveis e resultados verificáveis, no qual eventuais erros sejam visíveis e reversíveis. Devem ser evitados nesta fase processos com consequências mais elevadas, como os que podem exigir reformulação de contas ou envolver reporte regulamentar.

Antes do desenvolvimento, devem também ficar definidos os dados a que o agente pode aceder, as ações que pode executar e os momentos em que é obrigatória uma revisão humana. A responsabilidade deve ser claramente distribuída entre as áreas financeira, de IT e de auditoria ou risco, com os primeiros testes realizados num ambiente isolado.

Sucesso não deve ser medido apenas pelo retorno

A avaliação dos primeiros projetos também não deve estar centrada apenas no retorno do investimento ou no grau de autonomia alcançado. “O sucesso deve ser medido pela preparação da governação, e não apenas pela autonomia ou pelo ROI”, defende Alex Levine.

Entre os critérios apontados estão a aplicação consistente dos controlos e dos pontos de revisão e a capacidade de acompanhar todas as ações realizadas pelo agente. O analista considera igualmente importante manter um registo completo das falhas e respetivas correções.

“A equipa financeira deve conseguir reconstruir aquilo que o agente planeou, a que acedeu e o que produziu em cada execução”, afirma.

Para a Gartner, os primeiros projetos devem ainda permitir criar modelos, processos de formação e mecanismos de governação reutilizáveis, com o objetivo de reduzir os riscos e os custos de futuras implementações e preparando uma adoção mais alargada dos agentes de IA.