Cotação
0 items
segunda-feira, 27 de julho de 2026
Nvidia reúne gigantes para blindar sistema de IA
Nvidia reúne gigantes da tecnologia em aliança para criar ferramentas de segurança com IA e combater novas ameaças digitais.
Grandes empresas de tecnologia se uniram com a Nvidia para criar a Open Secure AI Alliance, iniciativa voltada ao desenvolvimento de ferramentas de segurança para inteligência artificial. O grupo pretende compartilhar tecnologias abertas para ajudar pesquisadores a encontrar falhas e responder a ataques digitais.
A aliança surge após um incidente envolvendo um agente autônomo de IA e reúne nomes como Microsoft, Dell, SpaceX e Hugging Face. A proposta é ampliar a colaboração entre empresas no desenvolvimento de sistemas mais seguros.
A Nvidia afirma que pesquisadores precisam trabalhar com diferentes tipos de modelos de inteligência artificial, incluindo opções abertas e fechadas. Segundo a empresa, esse acesso é importante para investigar vulnerabilidades e entender como agentes de IA podem ser usados em ataques.
Um dos casos citados pela companhia envolve a Hugging Face. Durante uma invasão, modelos comerciais de IA não conseguiram auxiliar na análise porque seus mecanismos de segurança impediram determinadas ações.
"Quando ferramentas de IA fechadas - incapazes de distinguir atacantes de defensores - bloquearam análises forenses essenciais, a Hugging Face executou o modelo GLM 5.2 em sua própria infraestrutura para analisar mais de 17 mil ações e conter a invasão", escreveu a Nvidia.
Entre as contribuições previstas pela aliança estão:
- Modelos abertos, pesos de IA e dados para pesquisas de segurança;
- Ferramentas para acompanhar e testar o comportamento de agentes inteligentes;
- Métodos de verificação para sistemas e serviços de IA;
- Tecnologias abertas para armazenamento seguro de modelos.
Além da Nvidia, companhias como HPE, IBM, Red Hat, Microsoft, SpaceXAI e Adobe devem participar com soluções próprias. A Hugging Face contribuirá com o Safetensors, formato criado para armazenar pesos de modelos de inteligência artificial.
A Nvidia também defende que modelos abertos sejam considerados aliados na proteção digital. Para a empresa, restrições amplas podem dificultar pesquisas de segurança e aumentar a dependência de poucos fornecedores fechados.
O tema ganhou destaque depois que a OpenAI revelou um episódio em que um agente de IA realizou ações contra a Hugging Face. O caso levantou preocupações sobre o controle de sistemas capazes de executar tarefas de forma autônoma.
A Open Secure AI Alliance quer aproximar empresas e governos na criação de uma infraestrutura compartilhada para inteligência artificial. A Nvidia também disponibilizou pesquisas e projetos de código aberto para apoiar o desenvolvimento de ferramentas de monitoramento e controle.
"Restrições gerais aos sistemas de IA de fronteira abertos enfraquecem a capacidade defensiva e podem concentrar poder, dependência e vulnerabilidade em poucos provedores fechados", afirmou a Nvidia.
A criação da aliança mostra que a segurança deixou de ser apenas uma preocupação técnica e passou a envolver toda a indústria de tecnologia. O desafio agora é criar ferramentas capazes de acompanhar a evolução rápida dos sistemas inteligentes sem limitar a inovação.
Fonte: OLHAR DIGITAL
Voltar