IT Insight Talks: “os riscos da IA, em termos de cibersegurança, estão hoje à vista”

A primeira edição da IT Insight Talks, o novo formato híbrido de mesas-redondas, arrancou com o keynote de Henrique Carreiro, Diretor da IT Insight, sobre a Inteligência Artificial (IA) e a cibersegurança.

Henrique Carreiro começa por refletir sobre a influência da IA na ótica do mercado global. “A terceira empresa mais valiosa do mundo, neste momento, é a Nvidia. Passou a Alphabet, a casa-mãe da Google”, constata. “Isto dá-nos um sinal do mundo em transformação”.

O atual cenário de IT é marcado por um conjunto de “números grandes” que são demonstrativos do impacto avassalador da IA: “1.87 triliões de dólares” é o valor da Nvidia, que domina o mercado de chips de IA, enquanto “a Microsoft e a Apple andam na ordem dos três triliões cada”; “sete triliões de dólares” é o financiamento procurado por Sam Altman, CEO da OpenAI, “para criar um conjunto de fábricas de circuitos integrados dedicados à IA”, sobre o qual Henrique Carreiro afirma: “não tenho dúvidas que o vá conseguir”; e, por fim, “seis triliões de dólares é o prejuízo estimado anualmente com o cibercrime”.

Este contexto, refere, “dá-nos a ideia de com o que nos estamos a deparar: os riscos e o investimento que é necessário para combater estes riscos”. No entanto, durante uma evolução tecnológica e digital, “há uma coisa que nós tendemos sempre a subestimar, que é o efeito exponencial”, sublinha o Diretor da IT Insight.

É neste sentido que Henrique Carreiro menciona a Lei de Moore, que costuma designar como “Lei do Arrependimento”. Nos anos 60, Gordon Moore, cofundador da Intel, “chegou à conclusão de que a capacidade dos circuitos integrados duplicava basicamente a cada 18 meses”, explica. “Quando compramos um computador ou um telefone, passados dois anos, basicamente temos o dobro da capacidade. É ela que nos leva sempre àquele arrependimento de dizer ‘se eu tivesse esperado até agora’”.

A inteligência artificial não é uma exceção à Lei de Moore. “Todas as conversas que se possam ter, vão estar sempre sujeitos a esta lei exponencial”, defende. “Em termos de IA, podem pensar: hoje, o que é que conseguem fazer com IA? O que é que poderá acontecer daqui a dois anos?”.

Além disto, é necessário ter em conta não só as oportunidades, mas também os desafios trazidos pelas tecnologias emergentes. “Os riscos de AI, em termos de cibersegurança, estão hoje à vista”, alerta Henrique Carreiro, acrescentando que “este ano é um ano eleitoral em inúmeros países, onde claramente há um potencial enorme para a utilização destas capacidades para o mal”.

A sua preocupação “não é o presente, mas o futuro”, considerando que existe um “risco sério” de que “daqui a cinco anos seja completamente impossível de distinguir o passado, ou seja, que não tenhamos capacidade de reconstruir o passado real”.

Um exemplo é a existência de “uma corrente muito grande, em termos de Internet, de pessoas que negam o Holocausto e algumas das formas como conseguimos contrariar isso é através de provas de dados, de fotografias da época”. Olhando para o futuro próximo, a IA, especialmente com as ferramentas generativas de geração de imagens, poderá influenciar a documentação do passado. “Se queremos olhar para o passado em 2030, olhar o que se passou de 2024 para a frente, quais é que vão ser as provas documentais?”, questiona.

Também as farms de cyber currencies são uma prática preocupante e a entrada da IA na equação pode significar um desafio acrescido. “Há muitas regiões desertas neste mundo, mas que têm acesso a fontes de energia baratas e pouca regulamentação, que têm enormes farms de servidores a produzir bitcoin e outras cyber currencies”, adverte. “Em termos tecnológicos, qual é a diferença entre uma farm que produz bitcoin e uma farm de produção de deepfakes? Zero. A tecnologia é exatamente a mesma”.

Henrique Carreiro termina o seu keynote com uma mensagem orientadora para os profissionais de IT. “A principal arma que nós temos para nos defendermos é sabermos sobre isto”, finaliza. “Tem de ser também um percurso individual e das próprias empresas”.