CIO e CTO enfrentam défice de controlo da IA

A adoção acelerada da Inteligência Artificial (IA) está a criar novos desafios para os responsáveis tecnológicos das empresas. Um estudo do IBM Institute for Business Value conclui que dois terços dos CIO e CTO inquiridos são responsabilizados pelo desempenho de sistemas de IA que não controlam totalmente, num contexto em que a governação tem dificuldade em acompanhar a expansão destas tecnologias.

O estudo, realizado em parceria com a Oxford Economics, envolveu dois mil executivos seniores responsáveis por decisões de IT, tecnologia e IA em 33 mercados e 19 setores de atividade. Os resultados mostram que 70% dos líderes tecnológicos inquiridos consideram que as equipas de negócio estão a implementar tecnologia mais rapidamente do que os departamentos de IT conseguem acompanhar.

A pressão para acelerar projetos de IA também está a aumentar. O estudo indica que 80% dos inquiridos referem a existência de mandatos estratégicos para transformação baseada em IA definidos pelos CEO. No entanto, apenas 11% acreditam que as suas organizações estão totalmente preparadas para a escala de implementação de agentes de IA prevista para os próximos 12 meses.

Segundo a IBM, a situação poderá tornar-se mais complexa à medida que o número de agentes de IA aumenta. Os líderes tecnológicos antecipam um crescimento de 38% na utilização destes sistemas até 2027. Em paralelo, 77% dos inquiridos afirmam que a adoção de IA já está a ultrapassar a capacidade atual de governação das suas organizações.

A investigação aponta igualmente para um aumento dos riscos operacionais e de segurança. As organizações participantes reportaram uma média de 54 incidentes relacionados com agentes de IA ao longo do último ano. Entre estes, 17% foram classificados como incidentes de elevada gravidade, exigindo mais de quatro horas para contenção.

Os impactos mais frequentes incluem exposição de dados ou violações de segurança, identificadas em 37% dos incidentes, falhas em cascata nos sistemas, responsáveis por 33% das ocorrências, e problemas de compliance, registados em 17% dos casos.

A segurança e a conformidade regulatória surgem como os principais obstáculos à expansão dos agentes de IA, sendo referidas por mais de metade (59%) dos responsáveis tecnológicos.

O estudo conclui que as organizações que integram mecanismos de controlo diretamente nos sistemas de IA conseguem melhores resultados. Segundo a análise, estas empresas implementam 16 vezes mais agentes de IA do que aquelas que dependem de processos manuais de governação, registam margens operacionais 18% superiores e utilizam apenas um quarto do orçamento de IA necessário nas restantes organizações.

A gestão financeira da IA surge igualmente como uma área crítica. A IBM estima que o investimento em IA aumente de cerca de 15% dos orçamentos de IT em 2025 para quase 25% em 2027. Apesar disso, 84% dos líderes tecnológicos afirmam não ter ainda operacionalizado completamente a gestão financeira da IA e 85% reconhecem não possuir visibilidade total sobre os gastos em tempo real.

A investigação indica ainda que as organizações que adotam uma abordagem disciplinada à gestão dos investimentos em IA conseguem implementar 2,4 vezes mais agentes sem aumentar os orçamentos de IT e apresentam uma probabilidade três vezes superior de se considerarem preparadas para operar IA em larga escala.

Para a IBM, a capacidade de combinar governação, controlo operacional e disciplina financeira será determinante para que as organizações consigam expandir a utilização da IA sem comprometer a segurança, a eficiência e os objetivos de negócio.