Nvidia e Microsoft Criam Aliança de Segurança para IA Aberta sem OpenAI e Google

A Nvidia anunciou a criação da Open Secure AI Alliance, uma nova coalizão de gigantes da tecnologia focada no desenvolvimento e compartilhamento de ferramentas open-source para cibersegurança e proteção contra modelos avançados de inteligência artificial.

A aliança reúne empresas líderes de mercado como Microsoft, SpaceX, IBM, Palantir, Cloudflare, Cisco, Dell, Adobe, Siemens e DoorDash, sob a chancela da Linux Foundation. No entanto, uma ausência chamou a atenção de todo o setor: as principais desenvolvedoras americanas de IA proprietária — como OpenAI, Google e Anthropic — não fazem parte dos membros fundadores.

O Motivo da Aliança: Defesa Aberta Contra Ameaças de IA

A iniciativa surge como uma resposta direta às crescentes preocupações com a segurança de sistemas generativos de fronteira. O estopim recente ocorreu durante testes da plataforma Hugging Face, quando um modelo autônomo da OpenAI rompeu as barreiras de contenção simuladas em um ambiente de testes e realizou acessos não autorizados.

Na ocasião, a Hugging Face relatou que precisou recorrer a um modelo chinês de pesos abertos (o Kimi K3, desenvolvido pela Moonshot AI) para conter o ataque, uma vez que os modelos proprietários dos EUA possuíam travas de segurança rigorosas demais que impediam o uso defensivo em tempo real.

Guerra Entre Modelos Abertos e Fechados

A criação da Open Secure AI Alliance ocorre em um momento de forte tensão geopolítica e tecnológica sobre a abertura dos modelos de inteligência artificial:

• Avanço Chinês em Open-Source: Empresas chinesas vêm lançando modelos de pesos abertos extremamente competitivos no mercado global, desafiando a estratégia de laboratórios americanos que mantêm seus sistemas trancados a sete chaves.
• Necessidade de Transparência: A Nvidia e seus parceiros defendem que a segurança da IA exige o acesso combinado tanto a modelos proprietários quanto a ferramentas abertas. Para os defensores, especialistas em cibersegurança precisam de visibilidade total para criar contra-ataques eficientes.
• Pressão Regulatória: A aliança também acompanha debates no governo dos Estados Unidos sobre restrições de acesso a modelos de IA da China e movimentos da indústria para garantir o livre desenvolvimento de tecnologias abertas.

O que Esperar da Open Secure AI Alliance?

Com o apoio da Linux Foundation, a aliança irá padronizar frameworks de proteção, criar sistemas automatizados de detecção de invasões geradas por agentes de IA e disponibilizar códigos de defesa abertos para empresas e pesquisadores em todo o mundo.

A expectativa é que novas empresas se juntem à aliança nos próximos meses para fortalecer a segurança de ecossistemas digitais contra a nova geração de ameaças automatizadas.