Maioria dos utilizadores de IA não verificam regularmente as respostas

Quase 90% dos utilizadores de Inteligência Artificial (IA) consideram que têm responsabilidade por verificar as respostas fornecidas pela tecnologia, mas 70% fazem essa validação apenas algumas vezes, raramente ou nunca.

Os dados fazem parte de um estudo da F-Secure realizado junto de 1.500 utilizadores de IA nos Estados Unidos e Reino Unido e mostram uma diferença entre a consciência dos riscos associados à tecnologia e os comportamentos adotados na sua utilização.

A questão ganha relevância à medida que ferramentas como ChatGPT, Claude e Gemini deixam de ser utilizadas apenas para consultas de baixo risco. Segundo o estudo, 25,2% dos inquiridos já seguiram recomendações de IA para tomar uma decisão importante na vida pessoal.

Apesar disso, 47,3% afirmam que deixam de questionar uma resposta quando esta lhes parece correta. Esta foi a razão mais frequente apresentada pelos participantes para não procederem a uma verificação adicional.

O estudo identifica também uma relação entre a diversidade de utilizações da IA e a propensão para aceitar as respostas sem validação adicional. Entre os participantes que recorrem à tecnologia para muitos tipos de tarefas, 59,7% aceitaram respostas sem as verificar através de outras fontes. A percentagem desce para 28,6% entre quem utiliza IA apenas para questões consideradas de baixo risco.

Outro comportamento identificado é a utilização de uma ferramenta de IA para verificar informação produzida por outra. Mais de um terço dos inquiridos, 35,3%, afirma já ter recorrido a esta abordagem. A F-Secure alerta que este procedimento pode criar uma perceção de validação independente sem necessariamente a proporcionar, uma vez que a segunda resposta continua a ser produzida por um sistema de IA. Ao mesmo tempo, 83,9% dos participantes identificam múltiplas preocupações relacionadas com a tecnologia, apesar de utilizarem IA pelo menos uma vez por semana.

O estudo analisou também os fatores que poderiam levar atuais não utilizadores a adotar chatbots de IA. Para 46,1%, a capacidade de detetar fraudes ou manipulação geradas por IA seria a funcionalidade com maior influência nessa decisão. A proteção dos dados surge igualmente entre as principais preocupações: 45% apontam como prioridade impedir que a informação fornecida às ferramentas seja armazenada ou partilhada.

Em comunicado, Amel Bourdocen, Senior User Researcher da F-Secure, considera que a responsabilidade pela fiabilidade das respostas não deve ficar apenas do lado dos utilizadores. “Um sistema que pode parecer confiante independentemente de estar correto deve ser obrigado a mostrar a sua incerteza, e não o utilizador”, afirma.

Os resultados, limitados a uma amostra de 1.500 utilizadores nos Estados Unidos e Reino Unido, apontam para um desafio que acompanha a adoção crescente da IA: a utilização das respostas em decisões com maior impacto não é necessariamente acompanhada por práticas mais frequentes de verificação.