Gartner prevê riscos de falhas críticas com IA até 2028

Até 2028, 40% das organizações de infraestrutura e operações que expandem a utilização de IA poderão enfrentar interrupções críticas de serviços devido a falhas de governação, prevê a Gartner

Gartner prevê riscos de falhas críticas com IA até 2028
Olee' Stock / AdobeStock

A crescente adoção de agentes de Inteligência Artificial (IA) está a criar novos desafios para a gestão das infraestruturas tecnológicas e para a continuidade das operações empresariais. Segundo uma previsão da Gartner, 40% das organizações de infraestrutura e operações (I&O) que estejam a expandir a utilização de IA poderão sofrer interrupções críticas de serviços até 2028, caso não implementem mecanismos adequados de governação.

A previsão surge num contexto em que a adoção de agentes de IA avança mais rapidamente do que a capacidade das organizações para supervisionar o seu funcionamento. Um inquérito realizado pela consultora a 298 responsáveis de I&O dos Estados Unidos e do Reino Unido, entre junho e julho de 2026, revelou que 95% das organizações enfrentaram pelo menos um incidente relacionado com agentes de IA nos 12 meses anteriores.

Apesar destes resultados, 70% dos responsáveis inquiridos acreditam que os seus agentes operam dentro de limites seguros, evidenciando uma diferença entre a perceção de segurança e os incidentes registados.

O estudo revela que 57% dos responsáveis de I&O consideram insuficientes os atuais mecanismos de governação da IA. Além disso, 55% entendem que as ferramentas existentes de gestão do risco tecnológico estão completamente desatualizadas.

A capacidade de interromper automaticamente comportamentos inesperados também permanece limitada. Apenas 15% das organizações dispõem de mecanismos automáticos capazes de travar erros de agentes ou ciclos de execução que se prolongam indefinidamente.

Nathan Hill, Distinguished VP Analyst e Chief of Research da Gartner, considera essencial estabelecer modelos de governação que integrem políticas de controlo, gestão de permissões, observabilidade e capacidades de auditoria.

O responsável alerta para a necessidade de uma abordagem diferente da utilizada na automatização tradicional. Segundo Hill, os agentes de IA não devem ser tratados como simples scripts, uma vez que a sua capacidade de executar ações com maior autonomia exige mecanismos específicos de supervisão e controlo.

Neste sentido, a Gartner recomenda que as organizações comecem por identificar todos os agentes de IA em funcionamento e os classifiquem como identidades não humanas nas respetivas plataformas de gestão de identidades.

Sete pilares para controlar os agentes de IA

Para responder aos riscos associados à expansão da IA agêntica, a Gartner propõe que os responsáveis de I&O trabalhem com os CIO e os líderes de IA na definição de modelos de governação baseados em mecanismos de controlo durante a execução dos agentes.

A abordagem assenta em sete pilares, começando pela identidade, através do registo centralizado dos agentes, e pela implementação de mecanismos automáticos de proteção que permitam limitar comportamentos inesperados.

A observabilidade constitui outra prioridade, permitindo acompanhar as decisões e ações dos agentes e compreender as razões que conduziram a determinados resultados.

A consultora destaca também a importância de controlar os custos associados à utilização dos modelos de IA. Para isso, recomenda a definição de limites de consumo por sessão e a seleção dos modelos mais adequados a cada tarefa, incluindo a possibilidade de distribuir cargas de trabalho entre modelos privados e públicos.

A supervisão humana continua a assumir um papel central, sobretudo nas operações com maior impacto ou risco. Nestes casos, a Gartner defende que determinadas ações devem depender de autorização explícita.

Os restantes pilares incluem mecanismos de contenção que permitam identificar e isolar agentes com comportamentos anómalos, bem como a criação de perímetros de proteção dos dados para reduzir riscos de fuga de informação e manipulação do contexto utilizado pelos sistemas.

Continuidade do negócio exige novas prioridades

À medida que os agentes de IA passam a integrar processos operacionais e atividades críticas, a possibilidade de os desligar sem consequências para o negócio torna-se mais limitada.

Para a Gartner, esta dependência crescente obriga as organizações a identificar quais os agentes essenciais à continuidade das operações e a estabelecer mecanismos que permitam mantê-los em funcionamento de forma controlada.

A consultora considera que a governação da IA deve, por isso, deixar de estar centrada exclusivamente em políticas e passar a integrar capacidades de supervisão e intervenção em tempo real.

Tags

NOTÍCIAS RELACIONADAS

RECOMENDADO PELOS LEITORES

REVISTA DIGITAL

IT INSIGHT Nº 64 NOVEMBRO 2026

IT INSIGHT Nº 64 NOVEMBRO 2026

NEWSLETTER

Receba todas as novidades na sua caixa de correio!

O nosso website usa cookies para garantir uma melhor experiência de utilização.