Comissão Europeia reforça regras para utilização de IA na investigação

A Comissão Europeia publicou uma nova versão das orientações para a utilização responsável de Inteligência Artificial (IA) generativa na investigação científica. A atualização, a mais abrangente desde a publicação inicial do documento em 2024, introduz recomendações específicas para agentes de IA e aprofunda as regras de utilização destas tecnologias na revisão de artigos científicos e na avaliação de propostas de financiamento.

A quarta edição das “Living Guidelines on the Responsible Use of Generative AI in Research”, publicada a 15 de outubro de 2026, procura acompanhar a evolução das capacidades dos sistemas de IA, particularmente a sua crescente autonomia na execução de tarefas complexas. O documento destina-se a investigadores, instituições científicas e organizações de financiamento, estabelecendo princípios para integrar estas ferramentas sem comprometer a integridade da investigação.

As orientações não são juridicamente vinculativas e não substituem a legislação europeia ou as políticas das instituições. Funcionam como um referencial de boas práticas que pode ser adaptado às diferentes disciplinas e contextos de investigação.

Uma das principais novidades é a introdução de recomendações específicas para sistemas de IA com agência, capazes de planear e executar sequências de tarefas com diferentes graus de autonomia. A Comissão Europeia reconhece que estas ferramentas podem acelerar processos de investigação, desde a programação e análise de dados até à formulação de hipóteses. No entanto, alerta para o risco de os investigadores perderem o controlo sobre decisões científicas ao delegarem demasiadas tarefas em sistemas autónomos.

As novas orientações estabelecem que os agentes de IA devem ser utilizados como ferramentas avançadas de investigação, e não como investigadores independentes. As hipóteses produzidas, os dados processados e as conclusões geradas por estes sistemas devem ser validados por investigadores humanos.

O documento recomenda ainda a definição de pontos de controlo ao longo dos processos automatizados, sobretudo quando estão envolvidas decisões metodológicas. A responsabilidade pela qualidade e validade dos resultados permanece sempre com os investigadores, independentemente do grau de autonomia da tecnologia utilizada.

A Comissão sublinha também que os sistemas de IA não podem ser considerados autores ou coautores de trabalhos científicos, uma vez que a autoria pressupõe responsabilidade sobre o conteúdo produzido.

IA não deve substituir avaliação científica por especialistas

A atualização reforça as recomendações para a utilização de IA na revisão por pares e na avaliação de candidaturas a financiamento científico.

Segundo o documento, os avaliadores podem recorrer à IA para determinadas tarefas de apoio, como clarificação de conceitos, pesquisa de contexto ou revisão linguística, desde que a utilização seja permitida pelas regras aplicáveis. Contudo, não devem delegar na tecnologia a avaliação do mérito científico, da originalidade ou da relevância dos trabalhos.

As orientações especificam que a IA não deve ser utilizada para redigir relatórios de avaliação nem para decidir se um artigo científico deve ser aceite ou rejeitado. Estas decisões devem permanecer sob responsabilidade dos especialistas.

A confidencialidade constitui outra preocupação central. A Comissão recomenda que propostas de financiamento, manuscritos não publicados, relatórios de avaliação e outras informações sensíveis não sejam introduzidos em ferramentas de IA que não garantam proteção adequada dos dados.

O documento alerta igualmente para os riscos de enviesamento e de confiança excessiva nas respostas dos modelos, incluindo a possibilidade de referências bibliográficas inventadas ou resumos incorretos de publicações científicas.

No caso das organizações que financiam investigação, as novas recomendações abordam ainda o risco de prompt injection, através da introdução de instruções ocultas em documentos submetidos para avaliação. Estas instruções podem procurar influenciar o comportamento dos sistemas de IA utilizados na análise das candidaturas, justificando a adoção de mecanismos de proteção específicos.

Transparência deve refletir o impacto real da IA na investigação

A Comissão Europeia clarifica também em que circunstâncias os investigadores devem declarar a utilização de ferramentas de IA. Segundo as orientações, a divulgação é especialmente importante quando a tecnologia desempenha um papel substancial no processo científico, nomeadamente na revisão de literatura, identificação de lacunas de investigação, formulação de hipóteses, análise de dados ou interpretação de resultados. Em contrapartida, utilizações meramente técnicas, como correção ortográfica, revisão gramatical ou formatação, geralmente não exigem declaração, desde que não influenciem o conteúdo científico.

Os investigadores devem também considerar a necessidade de conservar informações sobre os modelos utilizados, versões, parâmetros, instruções e registos de execução, sempre que estes elementos sejam relevantes para compreender, reproduzir ou auditar os resultados.

Esta preocupação assume particular importância nos sistemas de IA com agência, que podem produzir resultados diferentes perante as mesmas instruções e executar várias etapas de investigação sem intervenção humana contínua.

Instituições devem reforçar formação e proteção de dados

As orientações recomendam que universidades e centros de investigação disponibilizem formação sobre utilização responsável de IA, incluindo verificação de resultados, proteção de propriedade intelectual, privacidade e identificação de enviesamentos.

A Comissão incentiva também a utilização de ferramentas de IA alojadas em ambientes controlados pelas próprias instituições ou por fornecedores que assegurem garantias adequadas de confidencialidade e segurança. O objetivo é reduzir os riscos associados à introdução de dados científicos sensíveis em plataformas externas.

As organizações devem acompanhar a utilização destas tecnologias pelos investigadores e avaliar os respetivos impactos, incluindo os custos ambientais. As entidades financiadoras são igualmente incentivadas a rever os seus processos de avaliação para os tornar mais resistentes à utilização inadequada de IA.

Desenvolvidas no âmbito do Espaço Europeu da Investigação (European Research Area, ERA), as orientações resultam da colaboração entre a Comissão Europeia, os Estados participantes e representantes da comunidade científica.

A primeira versão foi publicada em março de 2024 e a anterior atualização ocorreu em maio de 2026. A próxima revisão está prevista para o terceiro trimestre de 2027, mantendo-se aberto um processo de recolha de contributos da comunidade científica.

O documento completo, “Living Guidelines on the Responsible Use of Generative AI in Research”, está disponível no portal da Comissão Europeia.