Portuguese
A NVIDIA e mais de 35 parceiros fundadores lançaram a Open Secure AI Alliance para construir ferramentas de IA de código aberto, modelos, frameworks de agentes e tecnologias de segurança. Sua adesão chama a atenção tanto pelos ausentes quanto pelos participantes: Microsoft, IBM, Cisco e Palantir estão a bordo, enquanto os principais desenvolvedores de modelos de fronteira fechada OpenAI, Google e Anthropic não aderiram.
Apoiada pela iniciativa Akrites da Linux Foundation e pela OpenSSF, a aliança visa equipar as equipes de segurança com tecnologias inspecionáveis e adaptáveis para proteger modelos de IA, agentes e suas cadeias de suprimentos de software. Os membros fundadores cobrem infraestrutura de nuvem, cibersegurança, software empresarial, pesquisa de IA e comunidades de código aberto, incluindo Adobe, Box, Capital One, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, Elastic, Fortinet, GitHub, HPE, Hugging Face, IBM, LangChain, a Linux Foundation, Microsoft, Mistral, NAVER, NetApp, Nokia, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpaceXAI, Synopsys, Uber, vLLM e Zscaler.
A aliança enfatiza que a avaliação de segurança de IA deve cobrir todo o stack do agente, não apenas os pesos do modelo. Um agente de IA abrange modelos, camadas de orquestração, integrações de ferramentas, regras de identidade, permissões, isolamento, salvaguardas de segurança, logs e fluxos de trabalho de avaliação. Embora modelos abertos apresentem riscos de mau uso, como salvaguardas desativadas ou abuso para ciberataques, a aliança argumenta que modelos fechados não resolvem tais perigos e impedem os defensores de auditar o comportamento do modelo, verificar controles ou executar IA on-premises.
Ela defende a adoção flexível de IA fechada e aberta: modelos fechados se adequam a casos de uso de ponta selecionados, enquanto alternativas abertas oferecem transparência, controle local e personalização para tarefas defensivas. Isso é de grande importância para indústrias regulamentadas e entidades soberanas que exigem supervisão direta de dados sensíveis, comportamento do modelo, logs de segurança e resposta a incidentes.
A NVIDIA doará modelos abertos, pesos, conjuntos de dados e pesquisa de harness de agentes para a aliança, com seu framework NOOA, hospedado no GitHub, como uma contribuição inicial. O NOOA aprimora a segurança e a auditabilidade dos harnesses de agentes de IA, simplificando testes, rastreamento, governança e avaliação quando os agentes interagem com ferramentas, dados externos, bases de código e sistemas corporativos. O trabalho conjunto planejado abrange soluções de identidade de agentes, isolamento de cargas de trabalho, formatos de modelo seguros, escaneamento de modelos e desenvolvimento de software seguro aumentado por IA.
Os membros fundadores construirão componentes de um stack de defesa de IA aberto. A HPE apoia SPIFFE/SPIRE para identidade de carga de trabalho zero-trust para autenticar agentes de IA via criptografia. O Safetensors da Hugging Face, hospedado sob a PyTorch Foundation, elimina riscos de execução de código arbitrário no armazenamento de pesos de modelos para um compartilhamento mais seguro de modelos de código aberto. A IBM e a Red Hat promovem o Lightwell, aproveitando patches assinados para proteger a integridade da cadeia de suprimentos de código aberto. A Microsoft oferece o MDASH, um scanner de agentes multi-modelo que detecta falhas exploráveis de software. A SpaceXAI abriu o Grok Build, um agente de codificação de IA terminal, e planeja lançar os pesos do modelo Grok, alinhando-se com o foco da aliança na auditoria e modificação independentes de ferramentas de IA focadas em segurança.
Em termos de política, a aliança insta os reguladores a enquadrar ferramentas de IA abertas como infraestrutura de cibersegurança em vez de riscos universais. Restrições gerais a modelos abertos avançados correm o risco de forçar as organizações a depender de um pequeno grupo de fornecedores proprietários e enfraquecer as capacidades de teste defensivo para empresas e governos. Ela pede investimento coletivo em conjuntos de dados abertos, plataformas de avaliação, simuladores de ataque, utilitários de red-teaming, distribuição segura de modelos e controles de segurança de agentes.
Para equipes de infraestrutura corporativa, a iniciativa destaca que as implantações de IA devem ser protegidas como sistemas interconectados que integram modelos, aplicativos, gerenciamento de identidade, armazenamento, redes, observabilidade e sistemas de decisão automatizados.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Diretor de Estratégia Global
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Foco de Negócios:
Distribuição de Produtos de TIC/Integração de Sistemas e Serviços/Soluções de Infraestrutura
Com mais de 20 anos de experiência em distribuição de TI, fazemos parceria com as principais marcas globais para entregar produtos confiáveis e serviços profissionais.
"Usando a Tecnologia para Construir um Mundo Inteligente" Seu Provedor Confiável de Serviços de Produtos de TIC!
Sandy Yang/Diretor de Estratégia Global
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Foco de Negócios:
Distribuição de Produtos de TIC/Integração de Sistemas e Serviços/Soluções de Infraestrutura
Com mais de 20 anos de experiência em distribuição de TI, fazemos parceria com as principais marcas globais para entregar produtos confiáveis e serviços profissionais.
"Usando a Tecnologia para Construir um Mundo Inteligente" Seu Provedor Confiável de Serviços de Produtos de TIC!