Falhas de governance e dependência de fornecedores podem travar avanço da IA

A Gartner identificou uma série “pontos cegos” críticos decorrentes de riscos negligenciados e consequências não intencionais da adoção da Inteligência Artificial (IA) generativa. A empresa alerta que os CIO devem abordar proativamente estes desafios ocultos para garantir a criação de valor e evitar o fracasso dos projetos desta tecnologia.

“As tecnologias e técnicas de IA generativa estão a evoluir a um ritmo sem precedentes, comparável apenas à grande expectativa em torno das mesmas, o que torna desafiante para os CIO navegar neste cenário dinâmico”, refere Arun Chandrasekaran, VP Analyst da Gartner.

Enquanto as empresas se concentram nos desafios imediatos podem negligenciar estes “pontos cegos”, que são efeitos de segunda ou terceira ordem e que não são visíveis de imediato. A Gartner prevê que, até 2030, estes riscos criarão a linha divisória entre as empresas que escalam a IA de forma segura e estratégica e aquelas que serão ultrapassadas.

Os riscos ocultos englobam o shadow AI, a dívida técnica da IA Generativa, a erosão das habilidades, as exigências de soberania de dados e a dependência de fornecedores. A rápida adoção de IA não autorizada representa um desafio imediato, com 69% das empresas a suspeitar ou ter provas da sua utilização pelos colaboradores.

A Gartner prevê que, até 2030, mais de 40% das organizações irão enfrentar incidentes de segurança ou compliance relacionados com esta prática. Paralelamente, 50% das empresas verão um aumento dos custos de manutenção e atrasos nas atualizações de IA devido à não gestão da dívida técnica.

Outro risco significativo é a erosão de habilidades, onde a dependência excessiva da IA pode levar à perda gradual do conhecimento humano essencial e do julgamento. Para contrariar este efeito, os CIO devem conceber soluções de IA que complementem, e não substituam, as competências humanas cruciais.

A complexidade regulatória também aumenta: prevê-se que, até 2028, 65% dos governos introduzam requisitos de soberania tecnológica, como restrições à partilha transfronteiriça de dados, o que pode aumentar o custo total de propriedade e atrasar a implementação da IA. Para mitigar este risco, os CIO devem incorporar a soberania de dados nas suas estratégias de IA desde o início.

Por fim, a adoção de um único fornecedor cria uma forte dependência que limita a agilidade técnica e o poder de negociação futuro das empresas, dada a complexa ligação dos dados e fluxos de trabalho às ferramentas específicas desse fornecedor.