Maioria das empresas reportaram incidentes de IA à gestão de topo, mas só 40% alteraram a governação

Oito em cada dez executivos de organizações europeias e do Médio Oriente afirmam que, nos últimos 12 meses, pelo menos um incidente relacionado com Inteligência Artificial (IA) chegou ao conselho de administração ou à comissão executiva. Apesar disso, apenas 40% das organizações afetadas responderam com alterações às políticas ou aos modelos de governação da tecnologia, segundo um estudo da IBM.

Os incidentes identificados incluem falhas de agentes de IA, exposição de dados, erros em decisões suportadas pela tecnologia e violações de segurança. Os resultados apontam para uma diferença entre a visibilidade dos riscos junto da gestão de topo e a capacidade das empresas para adaptar os respetivos mecanismos de controlo.

O estudo, realizado pela Censuswide a pedido da IBM, envolveu 3.221 executivos de organizações com pelo menos mil colaboradores, distribuídas por oito países da Europa e do Médio Oriente.

Adoção de agentes de IA avança mais depressa do que a governação

A crescente utilização de sistemas de IA com capacidade para executar tarefas e tomar decisões de forma autónoma está a aumentar a complexidade da gestão do risco. Segundo o estudo, 35% dos executivos afirmam que as suas organizações já utilizam IA com agência em ambientes de produção, enquanto 75% esperam que, até 2027, os agentes tenham algum grau de autonomia na tomada de decisões.

Contudo, apenas 37% consideram que os atuais modelos de governação estão preparados para suportar a adoção destas tecnologias em escala.

Perante situações em que a implementação de IA avança mais rapidamente do que os mecanismos de governação e conformidade, 56% dos inquiridos afirmam que as suas organizações continuam a implementar a tecnologia dentro dos limites de risco previamente definidos. Em contrapartida, 33% optam por adiar a implementação até que os modelos de controlo estejam preparados.

“O debate em torno da inteligência artificial evoluiu da adoção da tecnologia para a governação e a responsabilização. À medida que as organizações passam de assistentes de IA para agentes autónomos, a governação já não pode ser encarada apenas como um exercício de conformidade. Tornou-se um requisito para o negócio e um fator de criação de valor”, afirma, em comunicado, Ana Paula Assis, senior vice president e chair da IBM para EMEA e APAC.

Responsabilidade pelos riscos continua pouco definida

Embora 98% dos executivos indiquem que as suas organizações atribuíram formalmente responsabilidades pela gestão do risco de IA ao nível do conselho de administração, persistem dúvidas sobre quem deve responder pelas consequências das decisões tomadas por agentes autónomos.

O estudo revela que 26% das organizações dispõem de um comité dedicado à IA ao nível do conselho de administração. No entanto, quando questionados sobre quem deve ser responsabilizado por resultados adversos decorrentes da atuação dos agentes, os inquiridos apresentam respostas dispersas.

O CIO ou CTO é a função mais frequentemente identificada como responsável, mas reúne apenas 17% das respostas.

Também não existe consenso sobre a responsabilidade legal quando um sistema de IA provoca danos significativos. Cerca de 20% dos executivos defendem uma responsabilidade partilhada proporcionalmente entre a organização que implementa a solução e o fornecedor, enquanto 19% consideram necessário um enquadramento regulamentar específico. Outros 14% entendem que a responsabilidade deve recair sobre o fornecedor da tecnologia.

Para responder ao aumento da autonomia dos agentes, os executivos identificam várias necessidades até 2027. Entre elas estão a definição contratual da responsabilidade dos fornecedores em caso de falhas (33%), o estabelecimento de limites para a intervenção humana (32%), a monitorização em tempo real e os registos de auditoria (30%), bem como a capacidade de interromper imediatamente a atividade dos agentes em toda a organização (29%).

Apenas 37% quantificam o impacto financeiro das falhas de governação

A investigação identifica igualmente limitações na avaliação financeira dos riscos associados à IA. Apesar da elevada percentagem de organizações que atribuem responsabilidades ao nível da gestão de topo, apenas 37% dispõem de uma avaliação formal, revista pelo conselho de administração, que quantifica a exposição financeira decorrente de lacunas na governação.

As empresas estão também a adotar abordagens diferentes para gerir os riscos da IA generativa e da IA com agência. Mais de metade dos executivos (54%) afirma que a sua organização trata estas tecnologias como categorias de risco distintas, recorrendo a modelos de governação separados. Outros 38% aplicam uma estrutura comum, complementada com controlos específicos para os agentes autónomos.

A cadeia de abastecimento constitui outra área de preocupação. Segundo o estudo, 54% dos inquiridos reconhecem lacunas na forma como os mecanismos de governação abrangem sistemas e modelos de IA utilizados por fornecedores estratégicos e parceiros tecnológicos.

Apenas 21% afirmam monitorizar continuamente os riscos de IA associados a terceiros, enquanto 13% aplicam requisitos de avaliação ou certificação independente.

Regulamentação influencia investimentos em governação

O enquadramento regulamentar está a influenciar as prioridades das organizações, embora com diferenças entre regiões.

Na União Europeia, 41% dos executivos inquiridos afirmam estar a acelerar os investimentos em governação de IA tendo em vista as obrigações aplicáveis aos sistemas de alto risco previstas no AI Act a partir de dezembro de 2027. Outros 35% indicam que já seguem planos estruturados de conformidade.

No Reino Unido, as exigências dos reguladores setoriais são apontadas como o principal fator de investimento em governação por 27% dos inquiridos. Já na Arábia Saudita e nos Emirados Árabes Unidos, 61% identificam os requisitos associados às estratégias nacionais de IA como o principal impulsionador.

Para a IBM, os resultados demonstram que a adoção de agentes autónomos exige uma integração mais estreita entre governação, gestão do risco e operações. A definição de limites de atuação, a atribuição clara de responsabilidades e a existência de mecanismos de supervisão em tempo real tornam-se particularmente relevantes à medida que as organizações delegam mais decisões em sistemas de IA.

O estudo foi realizado pela Censuswide, a pedido da IBM, entre 14 e 24 de setembro de 2026. Foram inquiridos 3.221 executivos de organizações com pelo menos mil colaboradores no Reino Unido, França, Alemanha, Itália, Espanha, Países Baixos, Arábia Saudita e Emirados Árabes Unidos.