.webp){kind=small}
Se a tomada de risco de um banco puder ameaçar o público, terceiros tentarão prever isso com antecedência”, afirmou a empresa.
A Anthropic também está sob pressão para tranquilizar os investidores de que as questões de segurança não irão ofuscar sua oferta pública inicial (IPO), prevista para este ano com uma avaliação superior a US$ 2 trilhões. A empresa dedicou grande parte de suas apresentações para investidores esta semana à descrição de suas práticas de segurança.
A METR foi uma das organizações que investigou o ataque cibernético à Hugging Face por modelos maliciosos da OpenAI, analisando milhares de registros e recebendo laptops da empresa.
A Anthropic acaba de contratar seis funcionários da METR, fornecendo-lhes equipamentos da empresa, espaço de escritório e "acesso a ferramentas e sistemas internos que são praticamente equivalentes aos que nossas próprias equipes de avaliação de riscos utilizam".
O laboratório afirmou ter incentivado os funcionários a compartilhar informações com os avaliadores da mesma forma que fariam com um colega que trabalha na área de riscos.
A Anthropic não está pagando à METR por esse acordo. O grupo de pesquisa não aceita doações de empresas de IA ou de seus funcionários. Ele é financiado por doações de indivíduos e organizações filantrópicas, bem como por órgãos governamentais, como o Instituto de Segurança de IA do Reino Unido.
Os avaliadores publicarão suas análises, e a Anthropic não pode vetar a publicação. No entanto, pode exigir que eles omitam informações que se enquadrem em certas categorias, como dados de clientes, detalhes protegidos pelo sigilo advogado-cliente ou informações sobre arquiteturas de modelos.
A Anthropic acrescentou que ainda está trabalhando com a Accenture, que foi nomeada parceira em testes de segurança no mês passado, com cada uma delas comprometendo-se a investir pelo menos US$ 1 bilhão para estabelecer novas medidas de segurança.
Outra empresa terceirizada que realiza testes é a SecureBio, que avalia os riscos de armas químicas e biológicas para a empresa.
Estamos integrando avaliadores voluntariamente e acreditamos que todas as empresas de IA de ponta deveriam fazer o mesmo”, disse Anthropic.
Desenvolvedores de IA para fornecer melhores evidências ao público.”
.jpg)
.webp)
.jpeg)
.webp)
