Impacto da Inteligência Artificial utilizada para fins maliciosos

Em novembro de 2022, a OpenAI disponibilizou publicamente o seu chatbot, o ChatGPT, um modelo de geração de linguagem pré-treinado baseado na família de modelos de linguagem GPT-3, que permite gerar respostas a questões em linguagem natural, similares às de um ser humano.

Em pouco mais de um mês conseguiu uma base acima de 100 milhões de utilizadores, sendo que passou a ser amplamente utilizado nos mais variados domínios de conhecimento, incluindo a cibersegurança. Apesar de nem sempre providenciar resultados fidedignos, carecendo de análise e validação por parte de quem utiliza o serviço, a capacidade de resposta do ChatGPT, aos mais variados pedidos, permitiu criar vantagens e facilitar o trabalho de analistas de cibersegurança e pentesters, bem como melhorar as capacidades ofensivas de atores maliciosos, sendo que já há indicações de que o ChatGPT poderá estar a ser utilizado por cibercriminosos para as mais variadas ações e campanhas.

Devido às suas capacidades, o ChatGPT permitiu automatizar e facilitar uma série de tarefas e ações levadas a cabo por cibercriminosos, como por exemplo:

• Gerar templates para ataques de phishing, sendo possível gerar texto que se assemelha a comunicação humana, de modo a elaborar emails e mensagens que permitam passar despercebidas, facilitando assim os ataques de engenharia social. Isto permite criar campanhas de phishing mais rapidamente e evitar os erros ortográficos, conhecidos na maior parte dos ataques de phishing, que muitas vezes servem para facilitar a identificação deste vetor de ataque.
• Criar código em segundos, permitindo gerar provas de conceito, exploits e exemplos de malware. Apesar de não ser garantido que o código é livre de erros, ou que segue as melhores práticas no que diz respeito ao desenvolvimento seguro, permite criar rapidamente scripts para determinadas tarefas, como fazer varrimentos de redes, manipular tráfego, gerar reverse shells em diversas linguagens de programação ou de scripting, gerar código para malware, programas para cifrar informação entre outras tarefas.
• Analisar código para detetar e identificar vulnerabilidades mais rapidamente e facilmente, o que facilita o trabalho de exploração por parte de atores maliciosos.
• Criar comandos e instruções de ferramentas e programas conhecidos, podendo dar exemplos de utilização de ferramentas como scanners de rede, ferramentas de brute force de diretorias e ferramentas de exploração de vulnerabilidades, permitindo assim uma rápida aprendizagem da utilização destas ferramentas, sem necessitar de ler manuais ou seguir tutoriais, o que facilita a formação de atores maliciosos nas respetivas atividades.
• Efetuar traduções nas mais diversas linguagens, o que facilita a passagem de conhecimento entre cibercriminosos de diferentes nacionalidades. Apesar de ser possível utilizar tradutores online, é possível pedir ao ChatGPT para gerar mensagens de phishing, comentários em código ou mesmo instruções de utilização de ferramentas nas mais diversas linguagens.
• Aumentar as capacidades de reconhecimento e obtenção de informação através de fontes OSINT e análise de dados, ao providenciar a capacidade de obter diversa informação das mais variadas fontes como websites, fóruns e redes sociais através da geração de código ou scripts para este efeito.

A Inteligência Artificial é uma ferramenta poderosa e valiosa na cibersegurança, mas é cada vez mais utilizada por atores maliciosos para melhorar as suas capacidades ofensivas. É importante ter em consideração que a utilização deste tipo de ferramentas por atores maliciosos pode ter consequências graves, incluindo a facilidade de criação de conteúdo malicioso, o aumento de rapidez de execução de ataques e a melhoria das capacidades de exploração de vulnerabilidades por parte destes atores.

Desta forma, deve-se adotar medidas de segurança e proteção contra esses riscos como a formação e awareness, a utilização de Threat Intelligence, monitorização de atividade maliciosa, desenvolvimento de código seguro e utilização de práticas de cibersegurança robustas como a atualização de software e hardware, utilização de encriptação em dados sensíveis, implementação de firewalls e backups frequentes de informação.

Conteúdo co-produzido pela MediaNext e pela Hardsecure