IA cognitiva abre nova frente de riscos em cibersegurança

A evolução da Inteligência Artificial (IA) está a aproximar-se de um novo patamar de interação com a cognição humana, levantando preocupações crescentes sobre privacidade mental, manipulação comportamental e autonomia individual, segundo a Kaspersky.

A empresa alerta para quatro riscos emergentes associados à chamada “IA cognitiva”, sistemas desenvolvidos para analisar sinais neuronais, modelar comportamentos e antecipar padrões de decisão humana.

Embora os atuais sistemas de IA ainda não consigam ler pensamentos humanos de forma precisa, a Kaspersky considera que já possuem capacidade para influenciar comportamentos através de sistemas de recomendação, personalização algorítmica e controlo de informação em larga escala. Segundo a empresa, os jovens e os idosos encontram-se entre os grupos mais vulneráveis à manipulação algorítmica.

Um estudo internacional com participação portuguesa citado pela Kaspersky concluiu que quatro em cada dez adolescentes apresentam sinais de elevado risco de uso problemático da internet, recorrendo frequentemente às plataformas digitais para lidar com ansiedade, stress e emoções negativas.

A Kaspersky identifica quatro áreas principais de risco. O primeiro risco está relacionado com a evolução da engenharia social. A empresa alerta que modelos avançados de IA podem tornar ataques de phishing e fraude digital significativamente mais sofisticados, personalizados e emocionalmente persuasivos.

Segundo a Kaspersky, os atacantes podem explorar dados comportamentais e perfis psicológicos para aumentar as taxas de sucesso das campanhas maliciosas. Atualmente, o phishing já representa cerca de 15% das técnicas de ataque mais utilizadas globalmente.

O segundo risco envolve manipulação cognitiva em larga escala. A empresa considera que sistemas algorítmicos podem ser utilizados para amplificar polarização, reforçar câmaras de eco e influenciar opiniões públicas através de campanhas altamente segmentadas.

À medida que estas capacidades evoluem, a fronteira entre prever comportamentos e moldá-los torna-se cada vez mais difusa. A criação de perfis psicológicos detalhados representa o terceiro risco identificado.

Segundo a Kaspersky, a IA consegue correlacionar dados provenientes de redes sociais, hábitos digitais e outras fontes para construir perfis extremamente precisos de indivíduos, aumentando o potencial de assédio direcionado, doxxing e manipulação personalizada.

A empresa alerta ainda para o risco de pessoas serem avaliadas ou discriminadas com base em comportamentos inferidos por modelos preditivos, e não por ações efetivamente realizadas.

O quarto risco está associado à convergência entre interfaces cérebro-computador (BCI) e Internet das Coisas (IoT). Embora ainda em fase experimental, estas tecnologias já permitem interpretar sinais neuronais para comunicação e controlo de dispositivos externos.

Segundo a Kaspersky, a integração futura entre BCI e dispositivos ligados em rede poderá abrir novos cenários de ataque, incluindo manipulação de comandos, interceção de sinais neuronais e exploração da ligação entre intenção humana e execução tecnológica.

“Embora a IA cognitiva ainda esteja numa fase inicial e longe da adoção em massa, está a evoluir rapidamente”, afirma Noushin Shabab, investigadora sénior de segurança da Global Research and Analysis Team da Kaspersky. A investigadora considera que os riscos associados aumentarão à medida que os modelos avançados de interação humano-IA se tornarem mais comuns nas próximas décadas.

A Kaspersky defende uma colaboração mais próxima entre especialistas em cibersegurança, investigadores, programadores de IA e decisores políticos para antecipar os impactos destas tecnologias.