Últimas

Tudo está se desfazendo

✍️ Redação AR NEWS 24H ⏱️ 6 min de leitura
Tudo está se desfazendo

Você sabe que a situação está ruim quando compradores em pânico começam esvaziando as prateleiras do Costco. Como você deve ter percebido, tudo está apresentando problemas. Na última semana, o Outlook saiu do ar, o controle de tráfego aéreo dos EUA caiu, os sistemas bancários pararam de funcionar e o sistema telefônico confidencial da Agência de Segurança Nacional (NSA) também caiu. E hoje mesmo, a Apple anunciou que alguns de seus serviços estão indisponíveis.

Outros têm trocado teorias apocalípticas: agentes de inteligência artificial desonestos estariam dominando tudo? Seria este o fim dos tempos?

As respostas para essas perguntas são, respectivamente: Não, os agentes de IA não estão dominando o mundo, e não é sempre o Fim dos Tempos?

Acredito firmemente na navalha de Hanlon: nunca atribua à malícia o que é facilmente explicável por estupidez ou incompetência. Portanto, mesmo na sexta-feira, quando o governo federal suspendeu todas as viagens aéreas nos Estados Unidos apenas um dia após uma enorme falha no serviço de e-mail, eu duvidava que esses eventos estivessem relacionados. Mas agora, falhas em massa e vulnerabilidades em sistemas de infraestrutura crítica têm surgido dia após dia, às vezes várias vezes ao dia. Até eu tenho dificuldade em me livrar da sensação de que isso é mais do que uma coincidência.

Existem três hipóteses prováveis para explicar esses eventos. A primeira explicação é benigna: todas essas quebras e falhas estão acontecendo porque temos sistemas legados antigos que estão rodando em código desatualizado. Sistemas de computador antigos e frágeis estão entrando em colapso.

A segunda é mais nefasta: interferência estrangeira. Essa não é uma ideia absurda, especialmente considerando a natureza crucial dos sistemas que ficaram inoperantes. (Um pensamento e uma oração especiais para os sortudos que tiveram que remarcar um voo cancelado na sexta-feira à noite e não conseguiram acessar sua caixa de entrada do Outlook.). O ataque constante também é suspeito à luz dos eventos recentes. As relações entre EUA e China estão em um ponto crítico depois que Jensen Huang foi afastado do cargo de CEO da Nvidia, em parte por ter um caso com uma mulher que a inteligência americana teria identificado como espiã chinesa. (A China continua negando essa acusação.) Se não for a China, talvez outro ator estrangeiro — possivelmente o Irã.

A terceira hipótese é que agentes terceirizados estejam usando ferramentas poderosas de IA para encontrar uma série de vulnerabilidades e falhas em nossa infraestrutura digital. Mas, considerando que não houve relatos de pedidos de resgate e ninguém se vangloriando ou reivindicando a responsabilidade online, como é típico de grupos de hackers, essa explicação parece improvável. (Muitos ataques de ransomware não são relatados.) Ataques cibernéticos são muito difíceis de serem realizados, disse-me Scott Shapiro, especialista em segurança cibernética da Faculdade de Direito de Yale. Um ataque após o outro em vários setores da infraestrutura crítica seria uma façanha tão grande que aparentemente só poderia ser realizada por agentes estatais — mesmo na era da IA. "O que é difícil de entender é como esses eventos podem estar se acumulando", disse ele.

"Você pensaria que um está causando o outro, mas não parece ser o caso."

Conversei com dois funcionários federais, ambos que pediram anonimato devido à natureza sigilosa de seus cargos. Embora não estivessem diretamente envolvidos na resposta às interrupções, eles não viram motivo para atribuir os incidentes à interferência estrangeira. Isso nos leva a uma única explicação: tudo isso é (relativamente) inofensivo. De fato, acontece que muita coisa quebra o tempo todo. Grandes interrupções em sites governamentais, serviços em nuvem e diversos sistemas de baixo perfil têm ocorrido nos últimos meses, todas causadas por problemas banais de software provocados por código novo aplicado de forma desordenada a softwares antigos.

Além disso — e os funcionários do governo não pouparam elogios — engenheiros de alto nível que entendiam de código legado deixaram seus empregos ao mesmo tempo em que houve uma entrada maciça de pessoas dispostas a inserir qualquer código que lhes pareça adequado no sistema existente. Portanto, quando as coisas quebrarem, como inevitavelmente acontecerá, não haverá mais ninguém para consertá-las.

Quanto à coincidência com o problema da Nvidia, as pessoas com quem conversei geralmente consideraram uma mera coincidência. Da mesma forma, várias pessoas me disseram que o sistema de comunicação da NSA vem apresentando falhas gradualmente ao longo do último ano e já sofreu diversas interrupções (mais curtas). "Ninguém está surpreso com isso dentro da NSA", disse-me um funcionário da agência — uma observação que corrobora as próprias declarações públicas da agência.

O maior indício está nas soluções para esses problemas, nenhuma das quais era particularmente complicada ou revelava qualquer tipo de vírus, worm ou outro tipo de ataque cibernético. A Microsoft atribuiu a interrupção a um bug antigo. A Administração Federal de Aviação citou problemas decorrentes de uma atualização de roteador no Arkansas. O Chase Bank atribuiu sua breve interrupção a um bug de software. "As soluções para esses problemas são banais, porque o problema é banal", disse-me um funcionário do Departamento de Defesa. "Você aplica uma atualização."

Por mais tentador que seja atribuir essas interrupções a alguma operação de vilões estrangeiros ao estilo Missão Impossível, há uma lição aqui: quando você ouvir passos de cascos, pense em cavalos, não em zebras. Mas isso pode ser difícil de aceitar no atual momento de euforia em torno da IA. Está na moda, entre certos grupos, ser pessimista em relação à IA e se preocupar com um grande evento catastrófico que tornará a humanidade irrelevante ou inexistente.

Há alguma verdade nisso: a IA é responsável pelas falhas, mas não porque a singularidade já chegou. Na verdade, a maioria dos sistemas complexos que utilizamos são mantidos unidos por gambiarras. A IA em si não está quebrando esses sistemas; nós a estamos usando para quebrá-los mais rapidamente. A maioria dos nossos sistemas essenciais roda em softwares antigos, desatualizados e praticamente impossíveis de atualizar de forma coerente. Mas agora as mudanças de código estão acontecendo tão rapidamente e simultaneamente, que todos os setores estão perdendo os profissionais mais experientes, que estão em melhor posição para impedir esses erros ou corrigi-los depois que acontecem.

Nesse sentido, as interrupções são uma prévia de como será realmente a disrupção causada pela IA: não um enxame de Exterminadores, mas inconvenientes cotidianos que afetam milhões de vidas e custam bilhões para serem resolvidos.

Fonte: matéria original em theatlantic.com
AR NEWS 24H - Adicione como fonte preferida no Google
Adicione o AR NEWS como fonte favorita no Google News
🌐 Traduzido e adaptado
Adicionar como fonte preferida
AR NEWS 24H
Adicionar

Postar um comentário

0Comentários
* Por favor, não faça spam aqui. Todos os comentários são revisados ​​pelo administrador.