.webp){kind=small}
A Internet pode não ser mais domínio exclusivo dos humanos. Na semana passada, a OpenAI divulgou um “incidente cibernético sem precedentes”: um agente experimental de IA invadiu com sucesso a Internet aberta.
Especificamente, o agente recebeu uma tarefa; para concluí-lo, o agente saiu de um ambiente de pesquisa isolado e invadiu uma plataforma de terceiros chamada Hugging Face. É uma medida que muitos especialistas consideraram inevitável, dada a velocidade e a escala dos avanços na tecnologia de IA – e que levanta sérias questões sobre a segurança da IA.
Mas para Konstantinos Komaitis, membro sénior da Democracy and Tech Initiative no Atlantic Council, não foi o comportamento inesperado da IA que foi significativo. Era o que esse comportamento poderia significar para a infraestrutura fundamental e descentralizada da Internet e se iria estimular apelos para a construção de novas barreiras contra agentes autónomos de IA.
Komaitis argumenta que tais barreiras não são a solução. Ele conversou com o co-apresentador do Today, Explained, Sean Rameswaram, sobre por que uma Internet aberta é realmente fundamental para combater as ameaças à segurança cibernética da IA.
Abaixo está um trecho da conversa, editado para maior extensão e clareza. Há muito mais no podcast completo, então ouça Hoje, Explicado onde quer que você encontre podcasts, incluindo Apple Podcasts, Pandora e Spotify.
Então, a maioria das pessoas vê que isso acontece e pensa: "Ah, não, a IA se tornou desonesta. Quanto tempo levará até que isso me mate?" Você vê que isso acontece e começa a pensar em infraestrutura. Conte-nos mais sobre por que você estava pensando em infraestrutura à luz desse agente de IA rompendo a contenção.
A internet nunca foi projetada pensando na segurança total, certo?
Ao criar um sistema descentralizado, você não pode prever todas as seguranças ou vulnerabilidades que possam surgir. Mas como você tem um sistema baseado em blocos de construção, você tem a capacidade extraordinária de realmente resolver problemas de segurança à medida que eles surgem nesses blocos de construção, sem quebrar todo o sistema.
E, claro, a outra coisa que isso faz é empurrar você para a colaboração, porque quando você tem tantos blocos de construção, não é possível possuir todo o conhecimento para cada bloco de construção. Então você está trazendo literalmente todo mundo para tentar resolver esses problemas.
Tomemos como exemplo a Internet: passámos décadas a resolver essas vulnerabilidades e a desenvolver mecanismos para autenticar utilizadores e dispositivos, encriptar comunicações, mitigar ataques distribuídos, coordenar a resposta a incidentes e, claro, partilhar informações sobre ameaças.
Agora, o que há de novo na IA de agência não é simplesmente que o malware seja melhor ou os ataques de phishing sejam mais sofisticados. É o surgimento de sistemas que podem realmente descobrir vulnerabilidades em milhares de sistemas. Eles podem raciocinar sobre caminhos alternativos para um objetivo. Eles podem se adaptar quando estão bloqueados. Eles podem encadear serviços legítimos da Internet de maneiras inesperadas. Então eles fazem isso enquanto operam continuamente na velocidade da máquina. E isso realmente ocorre em uma escala que a Internet não está necessariamente preparada para enfrentar.
Efetivamente, a abertura da Internet torna-se simultaneamente uma força e uma vulnerabilidade. Portanto, a Internet foi otimizada para interoperabilidade e a IA agora está otimizada para explorar essa interoperabilidade.
E o que mais te assusta nisso? O que você acha que é mais vulnerável a ameaças?
O fato de não termos os mecanismos e instituições adequados para podermos lidar com isso. Eu venho do mundo da internet. Passei 20 anos da minha carreira defendendo a Internet aberta e discutindo-a em fóruns internacionais. E uma das coisas que muitas pessoas subestimam na Internet é o quão valiosa é a confiança como uma propriedade dentro do sistema.
Estamos falando de redes que trocam dados literalmente com base na confiança. Portanto, o que realmente me preocupa neste momento é que, de muitas maneiras, estamos a pedir aos sistemas de IA do século XXI que operem com base nos pressupostos do século XX sobre confiança. E a menos que descubramos isso e percebamos, continuaremos a ter estes problemas. E, claro, as reações instintivas que surgem com isso, que são: “Vamos fragmentar a Internet, vamos restringi-la, vamos restringir o acesso, vamos assumir o controle sobre ela”. Essa nunca é a solução.
O que você vê como solução?
Efetivamente, precisamos de construir instituições que sejam confiáveis e que sejam capazes de lidar com esses incidentes à medida que acontecem. Porque agora você tem OOpenAI e Hugging Face dizendo a todos: “Não se preocupem, nós conseguimos”. E não sabemos; eles podem ter isso. Mas, ao mesmo tempo, não posso deixar de me perguntar. E muitas, muitas outras pessoas se perguntam se, na verdade, isso é uma RP muito boa para essas empresas e especialmente para a OOpenAI.
A OOpenAI simplesmente foi ao mundo dizendo: “Desenvolvemos um dos LLMs mais poderosos e percebemos que ele se comportou da maneira que se comportou, mas não se preocupe, vamos consertar isso”. E neste clima atual e neste momento atual, não tenho a certeza de que isto seja suficiente. Precisamos de instituições que sejam muito mais transparentes, muito mais responsáveis e muito mais colaborativas em todos os sentidos.
Você quer que as instituições avancem e sirvam essencialmente como vigilantes. Ajude-nos a entender quais instituições, porque nos Estados Unidos, notoriamente, nosso governo fez muito pouco para regular a tecnologia.
Em primeiro lugar, precisamos de parar de pensar nas instituições como necessariamente afiliadas ao governo, certo? Ou que são resultados de iniciativas governamentais. Pode haver em colaboração com governos, mas uma das coisas que a Internet nos ensinou é que as instituições que são construídas através de um processo coordenado de baixo para cima têm a tendência de serem realmente mais ágeis e capazes de entregar algumas das coisas de que estamos a falar.
Tomemos, por exemplo, novamente, os padrões abertos. Os padrões abertos da Internet não são criados por nenhuma agência, governamental ou privada. É criado por instituições onde engenheiros de todos os setores e de todo o mundo se reúnem e criam esses padrões.
Você acha que é prático deixar isso para as instituições? Porque o que vimos até agora é que as instituições se inclinam para o capitalismo.
Depende muito de como você constrói a instituição, certo? Realmente depende de que tipo de guarda-corpos e freios e contrapesos você tem em torno dele. Para construir uma instituição, você precisa realmente saber o que deseja alcançar. Você precisa ter uma estrela do norte.
Uma das razões pelas quais a Internet funcionou foi porque todos discordaram, mas concordaram com o objetivo comum, que era conectar pessoas em todo o mundo. Para a IA, ainda não temos aquela estrela do norte. E assim que conseguirmos, é aí que se inicia a construção dessas instituições para facilitar isso e unir todos.
Para mim, é muito importante que todos entendam que manter uma Internet aberta é realmente mais importante do que nunca, especialmente à medida que os agentes de IA se tornam cada vez mais capazes. Porque é tentador pensar que a resposta aos novos riscos da IA é literalmente “construir mais barreiras”. Mas a maior força da Internet sempre foi a sua abertura. Portanto, o desafio hoje não é que a Internet seja demasiado aberta; é que sua arquitetura de confiança foi projetada para um mundo em que humanos ou softwares diretamente controlados por humanos eram os principais atores.
Agora, está sendo desafiado por esta IA agente que introduz um novo tipo de participante – sistemas que podem raciocinar, planear e agir com supervisão humana limitada. Portanto, precisamos evoluir nossa compreensão da confiança e do que ela significa online. E isso vai exigir muito trabalho porque, como você sabe muito bem, Sean, é muito difícil construir confiança, mas você pode quebrá-la em segundos.
| ℹ️ | Nota do editor: O AR NEWS 24H publica conteúdos baseados em fontes externas. As informações e opiniões presentes no material original são de responsabilidade de seus respectivos autores. Este conteúdo foi traduzido e adaptado para o português do Brasil com o auxílio de ferramentas automatizadas. |
