Novas regras europeias obrigam IA a identificar conteúdos gerados

Entraram em vigor na União Europeia novas disposições do AI Act, que reforçam as obrigações aplicáveis aos modelos de Inteligência Artificial (IA) de uso geral e introduzem requisitos de transparência para sistemas e conteúdos gerados por IA.

Entre as principais novidades, os chatbots e outros sistemas de IA interativos passam a ter de informar os utilizadores de que estão a interagir com uma máquina e não com uma pessoa. Os deepfakes – imagens, vídeos ou áudios gerados ou alterados por IA – vão ter de ser igualmente identificados, enquanto os conteúdos produzidos ou modificados por IA deverão incluir marcas legíveis por máquina que permitam a sua deteção.

Segundo a Comissão Europeia, estas medidas pretendem reduzir os riscos de manipulação e desinformação, permitindo que cidadãos e organizações identifiquem quando estão perante conteúdos gerados por IA. Em paralelo, foi divulgada uma primeira lista com mais de 180 organizações que aderiram ao Código de Conduta sobre Transparência de Conteúdos Gerados por IA, destinado a operacionalizar estas novas regras.

O AI Office da Comissão Europeia passa também a ser responsável pela aplicação das regras relativas aos modelos de IA de uso geral (GPAI), incluindo os modelos mais avançados suscetíveis de representar riscos sistémicos. Os fornecedores destes modelos vão ter de cumprir obrigações adicionais, nomeadamente em matéria de documentação técnica, política de direitos de autor e divulgação de um resumo suficientemente detalhado dos conteúdos utilizados no treino dos modelos.

As novas competências de fiscalização abrangem ainda as práticas de IA proibidas pelo regulamento, incluindo sistemas que manipulem pessoas, explorem vulnerabilidades ou realizem classificações consideradas lesivas dos direitos fundamentais.

A aplicação das regras será partilhada entre o AI Office, as autoridades nacionais competentes e a Autoridade Europeia para a Proteção de Dados, consoante o tipo de sistema e a entidade responsável pela sua utilização.

Para apoiar a fiscalização, a Comissão Europeia disponibilizou novos instrumentos que permitem a cidadãos, empresas e denunciantes comunicar alegadas violações do AI Act, incluindo um canal específico para organizações que desenvolvem aplicações baseadas em modelos de IA de uso geral.

No âmbito da implementação do regulamento, a Comissão nomeou ainda Alessandro Abate, professor da Universidade de Oxford, como principal conselheiro científico do AI Office para apoiar a avaliação técnica e científica dos modelos de IA de uso geral.

Apesar da entrada em vigor destas regras, a Comissão recorda que o chamado AI Omnibus adiou a aplicação das obrigações relativas aos sistemas de IA de alto risco para 2 de dezembro de 2027, enquanto as regras aplicáveis a sistemas de alto risco integrados em produtos regulados só entram em vigor em 2 de agosto de 2028.

Já as novas proibições relativas a sistemas de IA capazes de gerar conteúdos sexualmente explícitos sem consentimento ou material de abuso sexual de menores passam a aplicar-se a partir de 2 de dezembro de 2026.