Nvidia lidera aliança para reforçar segurança da IA

A Nvidia anunciou a criação da Open Secure AI Alliance (OSAIA), uma iniciativa que reúne empresas das áreas da tecnologia, cibersegurança e software empresarial para desenvolver e partilhar ferramentas, modelos e técnicas open source destinadas a reforçar a segurança de sistemas e agentes de Inteligência Artificial (IA).

A aliança conta com a participação de empresas como Adobe, Cisco, Cloudflare, CrowdStrike, Dell Technologies, HPE, Hugging Face, IBM, Microsoft, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow e Snowflake, entre outras.

Segundo a Nvidia, a iniciativa baseia-se no trabalho desenvolvido pela iniciativa Akrites, da Linux Foundation, e pela comunidade OpenSSF, com o objetivo de disponibilizar ferramentas abertas que permitam testar, auditar e proteger aplicações de IA.

Entre as contribuições anunciadas, a Nvidia disponibilizou o projeto NOOA, uma ferramenta open source concebida para facilitar o rastreio, os testes e a auditoria do comportamento de agentes de IA. A empresa contribui ainda com modelos, pesos (weights), conjuntos de dados e investigação relacionada com agentes de IA.

Outros parceiros também anunciaram contributos para a iniciativa. A HPE disponibilizará o SPIFFE/SPIRE, um sistema de identidade zero trust para autenticação criptográfica de agentes e serviços de IA. A Hugging Face irá integrar o formato Safetensors na PyTorch Foundation, enquanto a IBM e a Red Hat alargam o projeto Lightwell, focado na remediação automatizada de vulnerabilidades na cadeia de fornecimento de software.

A Microsoft, por sua vez, contribui com o MDASH, uma plataforma que coordena múltiplos agentes de IA para identificar, analisar e validar vulnerabilidades exploráveis em software. Já a SpaceXAI anunciou que irá disponibilizar em open source o agente de programação Grok Build, prevendo abrir futuramente também os weights da família de modelos Grok.

A OSAIA defende que modelos abertos e ferramentas de segurança devem ser encarados como ativos de defesa e não como um fator de risco. A aliança alerta ainda que restrições generalizadas ao desenvolvimento de modelos abertos de IA poderão reduzir a capacidade da comunidade de cibersegurança para testar, validar e reforçar a proteção destes sistemas.

Como exemplo, a Nvidia refere um incidente recente que envolveu a OpenAI e a Hugging Face, durante o qual a Hugging Face utilizou o modelo de pesos abertos GLM 5.2 para analisar mais de 17 mil ações e apoiar a resposta ao incidente, argumentando que o acesso a modelos abertos pode ser determinante para as equipas de defesa.

“A resposta correta não passa por negar aos defensores o acesso a sistemas abertos e avançados. Passa por combinar abertura com salvaguardas robustas, regras claras contra utilizações maliciosas, avaliações rigorosas e capacidade de resposta rápida”, defende a Nvidia.

A empresa acrescenta que as equipas de cibersegurança necessitam de acesso tanto a modelos fechados como a modelos abertos, para escolherem a solução mais adequada a cada cenário e garantirem transparência, adaptação e controlo sobre os sistemas de IA.