Paulo Portas: “Esta não é uma questão de preconceito, é uma questão de controlo” (com vídeo)

A geopolítica dos riscos levou Paulo Portas, comentador, professor de geopolítica e ex-Vice-Primeiro-Ministro, ao palco da quinta edição da IT Security Conference. Numa intervenção dedicada à instabilidade internacional e aos desafios tecnológicos, o convidado especial abordou “a nova geografia de riscos” com que, segundo o próprio, “os decisores políticos, militares, económicos e sociais têm de se confrontar”.

“Tudo o que nos preocupa no imediato é fruto da redução da inteligência humana. Não é fruto do crescimento da Inteligência Artificial” (IA), afirmou, tendo como ponto de partida uma crítica à forma como a tecnologia domina o debate atual. Ao assumir-se como “crítico do excesso de euforia em relação à questão da IA”, considerou que o mundo atravessa um período marcado não pelo surgimento de uma nova ordem mundial, mas pela “desconstrução da ordem mundial anterior”.

A transformação dos conflitos

A guerra na Ucrânia e o conflito no Golfo serviram de exemplo para demonstrar como decisões militares e políticas podem produzir consequências económicas e estratégicas à escala global. Paulo Portas questionou, em particular, a expectativa de que determinadas operações militares possam ter resultados rápidos, ao considerar que, num contexto de guerras híbridas, essa previsão é “uma ilusão enorme”.

A informação continua a representar uma vantagem estratégica das democracias ocidentais, uma vez que “acaba por ser mais livre e partilhável”, defendeu. Contudo, essa vantagem não impede erros de avaliação, como aqueles que, na sua perspetiva, contribuíram para prolongar os conflitos e agravar os seus efeitos.

A evolução tecnológica também alterou a natureza da guerra, com a utilização crescente de drones e sistemas de baixo custo. Ao refletir sobre a resistência ucraniana, Paulo Portas destacou o desequilíbrio entre o preço destes equipamentos e os meios necessários para os intercetar. “Não há relação racional entre a despesa que eu tenho que fazer e o bem que eu tenho que evitar e, portanto, tudo isso vai mudar”, considerou.

Esta transformação, na sua visão, coloca novos desafios às decisões de segurança e defesa, sobretudo quando a superioridade tecnológica deixa de garantir uma vantagem proporcional ao investimento realizado.

Os limites do entusiasmo tecnológico

Numa altura em que começam a surgir sinais de resistência à velocidade da transformação tecnológica, Paulo Portas destacou as mudanças na opinião pública norte-americana relativamente às plataformas digitais, aos data centers e à IA, incluindo entre as gerações mais jovens.

Sobre os data centers, destacou, nomeadamente, a crescente oposição à sua instalação em comunidades rurais dos Estados Unidos, devido ao elevado consumo de energia e ao consequente aumento dos preços, cujos custos recaem sobre populações que não solicitaram estas infraestruturas.

Plataformas digitais, ensino superior e direitos de autor e de propriedade intelectual foram também temas que trouxe à audiência atenta da IT Security Conference. Na sua perspetiva, a utilização de IA levanta questões sobre a autoria dos trabalhos académicos, a responsabilidade pelos conteúdos produzidos e as consequências de decisões automatizadas.

Perante estes desafios, defendeu que a inovação tecnológica deve ser acompanhada de uma reflexão ética. Para isso, reconheceu que “há duas formas superiores de conhecimento, que temos de entender ou procurar entender: uma é a matemática, que dá as respostas exatas; a outra é a filosofia: que faz perguntas difíceis”, afirmou, ao defender a importância de aproximar estas duas dimensões dos centros de decisão das organizações.

A autonomia da IA e o controlo humano

Foi na relação entre inteligência artificial, segurança e defesa que Paulo Portas concentrou a parte final da intervenção, ao apresentar três questões que considera essenciais para compreender os riscos associados ao desenvolvimento destas áreas.

A primeira diz respeito ao grau de autonomia dos modelos de IA generativa, particularmente na capacidade de participarem no desenvolvimento de versões futuras. O orador referiu declarações recentes de Dario Amodei, CEO da Anthropic, sobre a crescente participação dos sistemas na criação dos modelos seguintes, para questionar até que ponto será possível preservar o controlo humano.

Perante a crescente autonomia dos modelos de IA, Paulo Portas alertou para a necessidade de agir antes que se torne impossível recuperar o controlo. Conclui ainda que esta “não é uma questão de preconceito, é uma questão de controlo”.

A segunda preocupação relaciona-se diretamente com a cibersegurança e com a possibilidade de os modelos desenvolverem comportamentos inesperados. O antigo governante questionou em que medida estes sistemas podem vir a “dissimular a sua identidade, praticar atos que não foram pedidos, nomeadamente para se transformarem em hackers”, perante a possibilidade de agentes de IA escaparem à supervisão e ao controlo humano.

A terceira preocupação centrou-se na utilização da IA em decisões militares, desde o início de conflitos à escolha dos sistemas de armas e à letalidade das ofensivas. Para o antigo governante, esta autonomia coloca em causa a capacidade de assegurar uma intervenção humana relevante.

Além dos riscos associados à perda de controlo, alertou para as implicações na responsabilidade política, uma vez que “a ideia de que é a inteligência artificial que decide movimentos ofensivos e até conflitos é muito conveniente para a reputação de alguns políticos”.

Os dois cenários reforçam, assim, a necessidade de preservar a supervisão humana nas decisões de segurança e defesa, numa altura em que importa perceber “quem controla, quem toma a decisão final e quem supervisiona”.