.webp){kind=small}
A Anthropic não apoia uma proibição de inteligência artificial de código aberto, mas está cautelosa com modelos que têm potencialmente capacidades perigosas, disse a empresa em um post de blogue da segunda-feira após vários outros líderes de tecnologia formarem uma aliança de inteligência artificial de código aberto.
O CEO da Anthropic, Dario Amodei, detalhou suas preocupações no post sobre modelos de código aberto, chamando para "marcos legais e comerciais alvo" para prevenir a destilação e o desenvolvimento de modelos ilícitos por entidades adversárias.
"Para resumir minha e a posição da Anthropic, não estamos e não estamos defendendo uma proibição de modelos de pesos abertos como uma categoria", escreveu Amodei. "Em vez disso, devemos nos concentrar em manter os chips poderosos fora das mãos de governos autoritários, parar a destilação em larga escala, e exigir testes de segurança de todos os modelos suficientemente capazes, abertos e fechados."
Repetindo a acusação recente do governo dos EUA de que o desenvolvedor chinês de inteligência artificial Moonshot AI roubou ilegalmente a propriedade intelectual da Anthropic através da destilação, Amodei disse que sua principal preocupação é com a inteligência artificial desenvolvida por governos autoritários, um risco que disse que pode ser resolvido através de controles de exportação de chips para a China, mitigando a destilação em larga escala e os testes de segurança em modelos abertos e fechados.
Embora tenha reconhecido suas preocupações de segurança, Amodei observou que ele entende o valor dos modelos de código aberto e que eles servem um bem público ao democratizar o acesso à tecnologia de inteligência artificial.
Amodei manteve essa posição ao abordar a carta aberta que apoia o acesso a modelos de código aberto emitida na sexta-feira passada por outras grandes empresas de tecnologia, incluindo NVIDIA, Palantir e Cisco. Ele escreveu que ele concorda com muitas partes da carta — principalmente que os modelos de código aberto beneficiam a economia de inteligência artificial e fornecem a personalização do usuário — mas discordou da posição da carta sobre os benefícios de segurança dos modelos de pesos abertos.
"Eu não concordo com as afirmações da carta de que os modelos de pesos abertos necessariamente tornam mais fácil desenvolver medidas de segurança ou que o acesso amplo às capacidades necessariamente ajuda os defensores mais do que os atacantes", escreveu Amodei.
A questão de saber se os modelos de código aberto são um benefício para a segurança surgiu quando o GPT-Sol 5.6 da OpenAI conduziu um ataque às redes Hugging Face em julho após quebrar a contenção em um ambiente de teste interno. Para identificar os atacantes e proteger seus sistemas, as redes Hugging Face usaram um modelo de código aberto popular, GLM 5.2.
O status de segurança dos modelos de código aberto é atualmente um tópico de grande preocupação em D. C. David Sacks, o co-presidente do Conselho de Aconselhamento da Ciência e Tecnologia do Presidente, criticou a reticência da Anthropic em relação aos modelos de código aberto, especialmente em relação à treinamento de modelos via destilação.
"A Anthropic mantém que ela tem o direito de treinar gratuitamente em todos os outputs do mundo, mesmo que o autor se oponha", escreveu Sacks em um post no X na segunda-feira.
“ Mas se um concorrente treina na produção da Anthropic depois de pagar por isso, isso é roubo de propriedade intelectual. A hipocrisia é de tirar o fôlego.
O fundador e CEO da NVIDIA, Jensen Huang, também dobrou seu apoio a modelos de peso aberto. A NVIDIA uniu mais de 30 empresas para criar uma Open Secure AI Alliance para promover o uso de modelos de código aberto para segurança cibernética. Após este anúncio, o Politico informou que tanto Huang quanto o CEO da OpenAI, Sam.
Altman foi à Casa Branca para falar sobre a política de IA em geral.
“ Jensen está em Washington para se reunir com líderes de ambos os lados do corredor para discutir o trabalho da NVIDIA para fortalecer a cadeia de suprimentos do país, produzindo $ 500 bilhões em tecnologia americana ao longo de quatro anos e a liderança americana em IA, incluindo a liderança em código aberto”, disse um porta-voz da NVIDIA à Nextgov/FCW.
| ℹ️ | Nota do editor: O AR NEWS 24H publica conteúdos baseados em fontes externas. As informações e opiniões presentes no material original são de responsabilidade de seus respectivos autores. Este conteúdo foi traduzido e adaptado para o português do Brasil com auxílio de ferramentas automatizadas. |
