.webp){kind=small}
Contexto: O Slopsquatting representa uma ameaça emergente à cadeia de abastecimento, possibilitada pelas alucinações da IA.
O Slopsquatting representa uma ameaça emergente à cadeia de abastecimento, possibilitada pelas alucinações da IA. À medida que os desenvolvedores dependem cada vez mais de assistentes de codificação de IA, eles, sem saber, concedem aos cibercriminosos acesso ao seu software desde o primeiro dia. Entendendo o que é slopsquatting Slopsquatting é um novo tipo de ataque à cadeia de suprimentos que usa alucinações de modelo de linguagem grande (LLM) para injetar código malicioso em fluxos de trabalho de desenvolvimento.
O termo combina “desleixo de IA” e “typosquatting”, uma prática enganosa em que os invasores registram versões com erros ortográficos ou semelhantes de domínios populares para atacar usuários que inserem URLs incorretamente. Este novo vetor de ataque explora a tendência dos LLMs de gerar nomes de pacotes de software fictícios, que os agentes de ameaças podem então registrar e preencher com código malicioso.
Durante a codificação assistida por IA, o modelo pode gerar pacotes falsos de código aberto – coleções agrupadas de arquivos, programas e ferramentas de instalação. Isto por si só não é necessariamente prejudicial. No entanto, se um invasor registrar esse nome de pacote falso, ele poderá injetar malware que será incorporado diretamente à base de código do desenvolvedor.
Como a IA cria um risco na cadeia de abastecimento Tradicionalmente, os riscos de segurança da IA decorrem de alucinações, que podem afetar negativamente os usuários que tratam a desinformação como válida. No entanto, essas mesmas alucinações evoluíram para vulnerabilidades de segurança exploráveis.
Typosquatting é uma prática enganosa em que um cibercriminoso registra uma versão com erros ortográficos de um pacote popular para enganar os desenvolvedores. Ela existe há décadas, por isso os registros criaram proteções contra ela. No entanto, a IA mudou o modelo de ameaça. Ele recomenda pacotes fictícios que parecem plausíveis, em vez de simples erros ortográficos.
Depois que os invasores souberem quais pacotes alucinados os modelos tendem a inventar, eles poderão registrar pacotes cheios de malware com esses nomes. Como os pacotes alucinados não são simplesmente versões digitadas de bibliotecas populares, não há proteções contra esta prática em grande escala.
Detalhes: À medida que os desenvolvedores dependem cada vez mais de assistentes de codificação de IA, eles, sem saber, concedem aos cibercriminosos acesso ao seu software desde o primeiro dia.
Por exemplo, o registro protege contra um invasor que publica “crossenv”, um pacote do popular pacote “cross-env”. No entanto, ele não identificaria “mpn install cross-env file” ou “cross-env-extended” como ameaças. As alucinações são persistentes e graves Mesmo que muitos LLMs recomendem o mesmo pacote de alucinações, ainda é possível um acordo generalizado.
Pacotes maliciosos podem permanecer em produção sem serem detectados por meses ou até anos, permitindo que os agentes de ameaças injetem malware passivamente em inúmeros ambientes. Uma equipe de pesquisa analisou 31.267 vulnerabilidades pertencentes a 14.675 pacotes em 10 linguagens de programação. Eles descobriram que as vulnerabilidades comunicadas estão a aumentar a uma taxa anual de 98%, um crescimento mais rápido do que o aumento anual de 25% no número de pacotes de software de código aberto.
A equipe também observou um aumento de 85% na vida útil média das vulnerabilidades, indicando um declínio na segurança. Perigos do mundo real de Alucinações de IA Atores maliciosos podem criar pacotes de acesso aberto com o mesmo nome de bibliotecas comumente alucinadas. Em vez de código padrão, eles estão cheios de malware.
As modelos acreditam que se referem a pacotes existentes, por isso repetem frequentemente os mesmos nomes alucinados. Como as alucinações não são aleatórias, os invasores poderiam, teoricamente, registrar pacotes que enganam dezenas de milhares de desenvolvedores. Esses pacotes parecem legítimos. A semelhança das strings com bibliotecas reais as torna reconhecíveis.
Erros de digitação de um caracter sugerem erros simples, em vez de intenções maliciosas. Mesmo nomes totalmente fabricados permanecem verossímeis quando a IA os apresenta no contexto adequado. A detecção é um desafio, pois os desenvolvedores confiam em seus assistentes de codificação para recomendar dependências válidas.
Por que os LLMs estão alucinando pacotes? Os LLMs geram a resposta estatisticamente mais provável, em vez de priorizar a precisão. Como resultado, as alucinações são relativamente comuns. Um estudo descobriu que as taxas de alucinação variam de 50% a 82%, dependendo do modelo e do método de estímulo.
Mesmo o GPT-4o, o modelo de melhor desempenho, não passa de 23%, mesmo com mitigação imediata. Ataques de alucinação adversários poderia agravar este problema. Os atores da ameaça podem aproveitar a manipulação em nível de token ou o envenenamento de recuperação para forçar os modelos a alucinar da maneira que desejarem, aumentando a probabilidade de os modelos recomendarem seus pacotes maliciosos.
Conclusão: Zac Amos é o Editor de Características do ReHack.
Quais LLMs são propensos a slopsquatting? Embora todos os LLMs sejam propensos a slopsquatting, alguns são mais vulneráveis que outros. A probabilidade de produção de pacotes alucinados durante a geração do código depende do modelo. Os modelos proprietários têm quatro vezes menos probabilidade de gerar pacotes alucinados do que os modelos de código aberto.
Um grupo de pesquisa provou isso conduzindo 30 testes em 30 sistemas diferentes. Das 576 mil amostras de código e 2,23 milhões de pacotes produzidos, 19,7% eram alucinações. O GPT-4.0 Turbo teve uma taxa de alucinação de 3,59%, enquanto o DeepSeek 1B, o modelo de código aberto com melhor desempenho, atingiu 13,63%.
Esta pesquisa sugere que as organizações que dependem de ferramentas de IA de código aberto para geração de código estão cerca de quatro vezes mais expostas a ataques de slopsquatting. Isso não significa necessariamente que as ferramentas proprietárias sempre permanecerão mais seguras. Assim que os invasores perceberem essa disparidade, eles poderão manipular LLMs proprietários para tirar vantagem da segurança percebida.
A codificação Vibe contribui para o problema Os desenvolvedores de software que usam ferramentas de IA estimam que mais de 40% do código que comprometem inclui assistência de IA. Eles esperam que essa percentagem aumente consideravelmente nos próximos anos. 72% dos que experimentaram a IA já a utilizam diariamente.
O aumento na codificação de vibração e na codificação assistida por IA amplifica a superfície da ameaça. À medida que mais desenvolvedores integram ferramentas de IA em seus fluxos de trabalho sem implementar processos de verificação adequados, a superfície de ataque para slopsquatting continua a se expandir.
Para aqueles que usam IA para auxiliar na codificação, Verificar saídas é essencial. Certificar-se de que os pacotes recomendados realmente existem nos repositórios oficiais antes de incorporá-los aos projetos reduz os riscos. Navegando no desenvolvimento auxiliado por IA Implementar verificações automatizadas que validam os nomes dos pacotes contra registros conhecidos pode ajudar a descobrir pacotes imaginários antes de entrarem no código em produção.
Equipes de segurança também devem monitorar instalações incomuns de pacotes e manter uma inteligência sobre ameaças atualizada em campanhas conhecidas de squatting. Zac Amos é o Editor de Características do ReHack.
Fonte original:
Forget typosquatting; slopsquatting is the software supply chain threat created by AI coding tools
Categorias: Ciência e Tecnologia, IA
Marcador: Notícias
