E eventualmente, seria derrotado por um bug no sistema… A verdade é que a inteligência artificial (IA) deixou de ser uma mera promessa de eficiência e inovação para se tornar uma ferramenta crítica no xadrez geopolítico global, a redefinir economias, estratégias militares, e dinâmicas sociais. Apesar das inúmeras vantagens e inovações, a sua aplicação no domínio da guerra cibernética e cognitiva levanta sérias preocupações éticas, jurídicas e estratégicas.
|
No plano militar, a IA tem vindo a ser utilizada para a identificação e seleção de alvos, inclusive de alvos humanos, com base em grandes volumes de dados, imagens de satélite e padrões de comportamento detetados por algoritmos. Esta capacidade, outrora domínio exclusivo de analistas humanos, está agora a ser automatizada. Esta desumanização do conflito é ainda mais evidente quando pensamos nas armas de ataque automatizado e sistemas de defesa autónomos, capazes de operar sem intervenção humana direta. Nestes casos, a linha entre defesa e agressão torna-se perigosamente ténue. Perante este cenário, impõem-se várias questões éticas que ainda não encontraram uma resposta adequada. Até que ponto é aceitável delegar decisões de vida ou morte a sistemas automatizados, alheios a qualquer senso moral, empatia ou julgamento humano? Esta realidade, além de colocar em causa princípios éticos fundamentais, como a dignidade da vida humana, pode também violar normas legais internacionais, nomeadamente o direito humanitário. A vigilância e o reconhecimento tornaram-se igualmente domínios onde a IA reina, ao alimentar sistemas de monitorização constante, drones inteligentes e bases de dados interligadas. No entanto, talvez mais insidioso seja o papel da IA na guerra cognitiva: deepfakes, bots e algoritmos capazes de influenciar a opinião pública, espalhar desinformação e até recrutar indivíduos para causas extremistas. Já todos vimos vídeos manipulados por IA, muitas vezes em tom humorístico, ou conversámos com assistentes virtuais. No entanto, estas tecnologias estão a ser amplamente utilizadas por grupos extremistas para difundir propaganda, adaptar mensagens de doutrinação e contornar os próprios mecanismos de monitorização. Com as redes sociais e apps de mensagens encriptadas, o discurso radical ganhou alcance, sofisticação e proteção. Muitas plataformas descentralizadas oferecem o anonimato ideal para quem quer escapar ao controlo das autoridades. A emergência da IA generativa tornou este cenário ainda mais preocupante a possibilitar grupos extremistas a criar, muito mais facilmente e sem barreiras linguistas, manifestos automáticos, e manipular vídeos para amplificar o impacto de ataques, reais ou inventados. Imagens e sons têm uma carga emocional muito mais poderosa, e os deepfakes tornam-se ferramentas letais na radicalização online. Perante este cenário, impõem-se questões urgentes: como regular a IA de forma uniforme sem fragmentação? Qual o papel das plataformas digitais na deteção de conteúdos manipulados? Como mitigar os efeitos da IA na descentralização do poder bélico que o torna menos previsível? A IA é uma tecnologia maravilhosa, tudo se trata sobre a forma como a utilizamos e do espaço que construímos para a sua utilização. Pode ser uma grande mais-valia, como pode ser uma arma de manipulação e destruição. A resposta a este desafio deve ser coletiva, e chamar todas as partes relevantes para a mesa: parceiros tecnológicos dotados do know-how; plataformas de redes sociais que assumem também um compromisso de tornar o espaço digital mais seguro; a própria área da educação, uma vez que é cada vez mais imperativo que jovens sejam capazes de ter um pensamento crítico e vigilante na utilização das redes sociais; a própria legislação; e, claro os governos e órgãos militares. O futuro da democracia poderá depender, em parte, da nossa capacidade de distinguir a verdade da ilusão num mundo cada vez mais digitalizado.
Conteúdo co-produzido pela MediaNext e pela VisionWare |
Receba todas as novidades na sua caixa de correio!
