Até 2028, 40% das organizações de infraestrutura e operações que expandem a utilização de IA poderão enfrentar interrupções críticas de serviços devido a falhas de governação, prevê a Gartner
|
A crescente adoção de agentes de Inteligência Artificial (IA) está a criar novos desafios para a gestão das infraestruturas tecnológicas e para a continuidade das operações empresariais. Segundo uma previsão da Gartner, 40% das organizações de infraestrutura e operações (I&O) que estejam a expandir a utilização de IA poderão sofrer interrupções críticas de serviços até 2028, caso não implementem mecanismos adequados de governação. A previsão surge num contexto em que a adoção de agentes de IA avança mais rapidamente do que a capacidade das organizações para supervisionar o seu funcionamento. Um inquérito realizado pela consultora a 298 responsáveis de I&O dos Estados Unidos e do Reino Unido, entre junho e julho de 2026, revelou que 95% das organizações enfrentaram pelo menos um incidente relacionado com agentes de IA nos 12 meses anteriores. Apesar destes resultados, 70% dos responsáveis inquiridos acreditam que os seus agentes operam dentro de limites seguros, evidenciando uma diferença entre a perceção de segurança e os incidentes registados. O estudo revela que 57% dos responsáveis de I&O consideram insuficientes os atuais mecanismos de governação da IA. Além disso, 55% entendem que as ferramentas existentes de gestão do risco tecnológico estão completamente desatualizadas. A capacidade de interromper automaticamente comportamentos inesperados também permanece limitada. Apenas 15% das organizações dispõem de mecanismos automáticos capazes de travar erros de agentes ou ciclos de execução que se prolongam indefinidamente. Nathan Hill, Distinguished VP Analyst e Chief of Research da Gartner, considera essencial estabelecer modelos de governação que integrem políticas de controlo, gestão de permissões, observabilidade e capacidades de auditoria. O responsável alerta para a necessidade de uma abordagem diferente da utilizada na automatização tradicional. Segundo Hill, os agentes de IA não devem ser tratados como simples scripts, uma vez que a sua capacidade de executar ações com maior autonomia exige mecanismos específicos de supervisão e controlo. Neste sentido, a Gartner recomenda que as organizações comecem por identificar todos os agentes de IA em funcionamento e os classifiquem como identidades não humanas nas respetivas plataformas de gestão de identidades. Sete pilares para controlar os agentes de IAPara responder aos riscos associados à expansão da IA agêntica, a Gartner propõe que os responsáveis de I&O trabalhem com os CIO e os líderes de IA na definição de modelos de governação baseados em mecanismos de controlo durante a execução dos agentes. A abordagem assenta em sete pilares, começando pela identidade, através do registo centralizado dos agentes, e pela implementação de mecanismos automáticos de proteção que permitam limitar comportamentos inesperados. A observabilidade constitui outra prioridade, permitindo acompanhar as decisões e ações dos agentes e compreender as razões que conduziram a determinados resultados. A consultora destaca também a importância de controlar os custos associados à utilização dos modelos de IA. Para isso, recomenda a definição de limites de consumo por sessão e a seleção dos modelos mais adequados a cada tarefa, incluindo a possibilidade de distribuir cargas de trabalho entre modelos privados e públicos. A supervisão humana continua a assumir um papel central, sobretudo nas operações com maior impacto ou risco. Nestes casos, a Gartner defende que determinadas ações devem depender de autorização explícita. Os restantes pilares incluem mecanismos de contenção que permitam identificar e isolar agentes com comportamentos anómalos, bem como a criação de perímetros de proteção dos dados para reduzir riscos de fuga de informação e manipulação do contexto utilizado pelos sistemas. Continuidade do negócio exige novas prioridadesÀ medida que os agentes de IA passam a integrar processos operacionais e atividades críticas, a possibilidade de os desligar sem consequências para o negócio torna-se mais limitada. Para a Gartner, esta dependência crescente obriga as organizações a identificar quais os agentes essenciais à continuidade das operações e a estabelecer mecanismos que permitam mantê-los em funcionamento de forma controlada. A consultora considera que a governação da IA deve, por isso, deixar de estar centrada exclusivamente em políticas e passar a integrar capacidades de supervisão e intervenção em tempo real. |