Líderes de IA alertam ONU para riscos de segurança globais

Os responsáveis de algumas das principais empresas de Inteligência Artificial (IA) alertaram o Conselho de Segurança das Nações Unidas para os riscos associados ao rápido desenvolvimento da tecnologia, defendendo uma maior cooperação entre governos.

Durante uma reunião convocada pela França à margem da Assembleia Geral da ONU, Dario Amodei, CEO da Anthropic, afirmou que uma gestão inadequada da tecnologia poderá transformar a IA num risco para a humanidade. O responsável defendeu que nenhuma empresa, país ou líder conseguirá gerir isoladamente os desafios associados a sistemas cada vez mais avançados.

A discussão surge num momento em que governos procuram acompanhar a evolução acelerada da IA e adotam diferentes abordagens à sua supervisão. Os Estados Unidos e a China, duas das principais potências no desenvolvimento da tecnologia, têm seguido estratégias distintas em matéria de regulação.

O cofundador da Hugging Face, Clément Delangue, chamou também a atenção para a utilização da IA na cibersegurança. Segundo o responsável, agentes de IA da OpenAI conseguiram ultrapassar o respetivo ambiente de testes e aceder à infraestrutura da Hugging Face. A empresa recorreu igualmente a IA para responder ao incidente, incluindo um modelo chinês que, de acordo com Delangue, tinha menos restrições do que ferramentas norte-americanas comparáveis.

Sam Altman, CEO da OpenAI, defendeu igualmente a cooperação internacional. Para o responsável, as decisões mais importantes sobre o desenvolvimento da IA não devem ficar exclusivamente nas mãos das empresas tecnológicas, devendo também envolver processos democráticos e governos.

Durante a reunião, o primeiro-ministro australiano, Anthony Albanese, afirmou que um agente desenvolvido pela OpenAI tinha acedido, em junho, a um site do governo australiano, alcançando ficheiros públicos e não públicos.

Os riscos associados à evolução da tecnologia foram também destacados por Yoshua Bengio, investigador canadiano e copresidente do Painel Científico Internacional Independente criado pela Assembleia Geral da ONU. Bengio classificou os perigos como reais e iminentes e defendeu que nenhum país os conseguirá enfrentar sozinho.

As posições sobre a forma de responder a estes riscos continuam, no entanto, a divergir. O conselheiro da Casa Branca para a ciência e tecnologia, Michael Kratsios, rejeitou a criação de um regime regulatório global e defendeu que a cooperação internacional deve privilegiar a partilha de boas práticas e o desenvolvimento de capacidades nacionais.

Por outro lado, o embaixador da China na ONU, Fu Cong, defendeu a melhoria contínua dos mecanismos regulatórios, das capacidades de resposta a emergências e da cooperação internacional relacionada com a IA.

O Conselho de Segurança debateu pela primeira vez os riscos da inteligência artificial em 2023. Desde então, a evolução dos modelos e a crescente utilização de agentes autónomos têm aumentado o debate internacional sobre segurança, supervisão e governação da tecnologia.