Anthropic defende mecanismo para travar desenvolvimento de IA

A Anthropic defendeu a criação de um plano coordenado entre os principais laboratórios de Inteligência Artificial (IA) para permitir o abrandamento ou a suspensão temporária do desenvolvimento de sistemas avançados, caso estes comecem a evoluir mais rapidamente do que a capacidade da sociedade para gerir os riscos associados.

A posição foi divulgada pela empresa numa reflexão sobre os potenciais impactos da chamada autoaperfeiçoamento recursivo (recursive self-improvement), um cenário em que os sistemas de IA se tornam capazes de desenvolver autonomamente versões mais avançadas de si próprios.

Segundo a Anthropic, esta capacidade representaria um marco histórico na evolução tecnológica, mas também poderia aumentar significativamente o risco de perda de controlo humano sobre os sistemas de IA.

“Se os sistemas forem capazes de construir integralmente os seus próprios sucessores, os mecanismos de segurança, monitorização e alinhamento tornam-se ainda mais importantes”, refere a empresa.

Como exemplo da crescente influência da IA nos processos de desenvolvimento, a Anthropic revelou que, em maio, mais de 80% do código integrado na sua base de desenvolvimento foi produzido pelo Claude, o seu modelo de IA generativa.

A empresa considera que seria benéfico para a sociedade dispor da capacidade de reduzir temporariamente o ritmo de desenvolvimento das tecnologias mais avançadas, permitindo que a investigação em segurança e os mecanismos de supervisão acompanhassem a evolução tecnológica. No entanto, a Anthropic alerta que uma suspensão unilateral ou mal coordenada poderia produzir o efeito contrário ao pretendido.

Segundo a empresa, se apenas algumas organizações decidirem interromper o desenvolvimento, outras entidades menos cautelosas podem continuar a avançar, reduzindo o impacto da medida e potencialmente aumentando os riscos globais. Por esse motivo, a Anthropic defende que qualquer eventual pausa teria de resultar de um acordo entre vários laboratórios líderes no desenvolvimento de IA.

A empresa considera igualmente necessário definir antecipadamente as condições que desencadeariam uma suspensão temporária, os critérios para o seu levantamento e as entidades responsáveis pela supervisão do processo.

A Anthropic reconhece que uma pausa implementada por uma única empresa seria mais simples de executar, mas teria um impacto limitado, uma vez que apenas alteraria a liderança tecnológica sem promover uma discussão global sobre os riscos associados.

Para aprofundar estas questões, o Anthropic Institute, divisão de investigação da empresa, pretende estudar os mecanismos técnicos e institucionais necessários para apoiar eventuais processos de coordenação entre laboratórios.

Nos próximos meses, a empresa prevê organizar debates envolvendo decisores políticos, investigadores, organizações da sociedade civil e outras empresas de IA. Entre os temas a discutir estão os riscos associados ao autoaperfeiçoamento recursivo, os modelos de governação da IA e os mecanismos de cooperação necessários para garantir o desenvolvimento seguro da tecnologia.