70% das empresas escolhem a inovação em detrimento da segurança em projetos de IA generativa

Mais de 80% dos inquiridos numa investigação da IBM considera que uma IA segura e de confiança é essencial para os negócios

70% das empresas escolhem a inovação em detrimento da segurança em projetos de IA generativa

Um estudo recente realizado pelo IBM Institute for Business Value descobriu que menos de um quarto (24%) dos projetos de Inteligência Artificial (IA) generativa estão protegidos, apesar de 82% dos inquiridos na pesquisa da IBM admitirem que uma IA de confiança e segura é essencial para o sucesso dos negócios.

Akiba Saeedi, VP de Data Security da IBM, revelou à Infosecurity que é vital evitar erros que foram feitos no passado durante a implementação das tecnologias de cloud, que muitas vezes são implementadas sem os devidos controlos de segurança. Akiba aponta as configurações incorretas da cloud como uma das formas mais comuns de os cibercriminosos se infiltrarem nos ambientes cloud. Configurações incorretas de IA também poderão ser um grande impulsionador de violações no futuro se os controlos de segurança adequados não forem implementados prematuramente nas organizações.

Os executivos inquiridos no relatório destacaram um conjunto de preocupações relacionadas com a implementação de ferramentas de IA generativa nas suas organizações. Mais de metade (51%) menciona riscos imprevisíveis e novas vulnerabilidades de segurança, enquanto 47% salientam os novos ataques direcionados aos modelos, dados e serviços de IA existentes.

A maioria dos inquiridos reconheceu que a inteligência artificial generativa requer um novo modelo de segurança fundamental para mitigar os riscos apresentados por estas tecnologias. A nível mundial, os governos estão já a preparar-se para implementar um conjunto de regulamentações relacionadas com a IA, como é o AI Act da União Europeia e a ordem executiva do Presidente norte-americano Joe Biden para promover o uso de inteligência artificial confiável no seio do governo norte-americano.

Saeedi enfatiza que a maioria das organizações já possuiu um sistema de governação, risco e conformidade que pode ser utilizado como base para alcançar um modelo, desenvolvendo as novas medidas necessárias para a IA generativa.

Os dados circulam e é necessário manter uma segurança dos dados e saber a identidade de quem acede a esses sistemas para se compreender o ciclo de vida destes mesmos dados", aconselha Saeedi.

Tags

NOTÍCIAS RELACIONADAS

RECOMENDADO PELOS LEITORES

REVISTA DIGITAL

IT INSIGHT Nº 51 Setembro 2024

IT INSIGHT Nº 51 Setembro 2024

NEWSLETTER

Receba todas as novidades na sua caixa de correio!

O nosso website usa cookies para garantir uma melhor experiência de utilização.