Executivos impulsionam fenómeno do shadow AI

A utilização de ferramentas de Inteligência Artificial (IA) não autorizadas pelas organizações está a crescer entre os cargos de direção, criando desafios para responsáveis de IT e de segurança. Um estudo da TrustedTech revela que 64% dos decisores seniores admitem recorrer a ferramentas de IA sem aprovação, face a 31% dos restantes colaboradores.

O relatório indica ainda que 75% dos colaboradores reconhecem que a utilização de shadow AI representa riscos de segurança e privacidade dos dados. Ainda assim, muitos optam por continuar a utilizar estas ferramentas devido à falta de alternativas aprovadas ou por considerarem que as soluções disponibilizadas pelas organizações não respondem às necessidades do negócio.

Segundo a TrustedTech, o problema não resulta de falta de sensibilização, mas antes de uma combinação de cultura organizacional, incentivos e ausência de ferramentas autorizadas que ofereçam uma experiência comparável às soluções de IA mais populares.

Para Andy Nolan, vice-presidente de tecnologia da TrustedTech, citado pela CSO Online, a adoção de shadow AI pelos membros da administração compromete os esforços de governação. O responsável considera que, quando os líderes ignoram políticas e ferramentas aprovadas, transmitem implicitamente a mensagem de que a rapidez é mais importante do que a segurança e o compliance, tornando mais difícil exigir o cumprimento das mesmas regras ao restante da organização.

Além disso, Nolan alerta que os executivos trabalham frequentemente com informação altamente sensível, incluindo dados financeiros, planos estratégicos, propriedade intelectual e informação de clientes, aumentando o impacto potencial de uma utilização não controlada destas plataformas.

Amit Maloo, Chief Information Security Officer (CISO) da Ivalua, defende, de acordo com a mesma fonte, que esta realidade coloca os responsáveis de segurança e IT numa posição difícil. Embora continuem a ser responsabilizados pela gestão do risco, deixam de ter visibilidade sobre a utilização de ferramentas externas, comprometendo a capacidade de auditoria e rastreabilidade das decisões tomadas com recurso à IA.

O responsável considera que políticas restritivas, por si só, não resolvem o problema. Em vez disso, defende que as organizações devem disponibilizar ferramentas de IA seguras, integradas com os sistemas empresariais e suficientemente eficazes para evitar que colaboradores e gestores procurem alternativas externas.

Uma conclusão semelhante é apresentada por Nik Kale, engenheiro principal e arquiteto de produto da Cisco e membro da Coalition for Secure AI. Citando um estudo recente da Teramind, refere que mais de dois terços dos executivos C-Level privilegiam a rapidez em detrimento da segurança na utilização de IA. Em muitos casos, acrescenta, os colaboradores recorrem a contas pessoais em plataformas para as quais a organização já possui licenças empresariais, optando pela via menos burocrática.

Matthew Scavetta, Chief Technology Innovation Officer da Future Tech Enterprise, acrescenta que muitas organizações também falham na divulgação e formação sobre as ferramentas de IA já aprovadas. Na sua perspetiva, quando os utilizadores desconhecem as soluções disponíveis ou estas não respondem às necessidades do dia a dia, tendem a procurar alternativas por iniciativa própria.

O relatório conclui que a resposta ao fenómeno do shadow AI passa menos pelo reforço das restrições e mais pela disponibilização de soluções seguras, fáceis de utilizar e alinhadas com o ritmo do negócio, promovendo uma adoção consistente desde os níveis de gestão até aos restantes colaboradores.