.webp){kind=small}
O Julgamento Final, um filme repetitivo e previsível, mas que já lançou as bases para um novo pânico: uma IA superinteligente assume o controle de tudo que está conectado e decide nos exterminar. Jacob Coxon acaba de sair da Anthropic, um jovem programador "progressista" que de repente quer alertar a humanidade com um aviso apocalíptico — quando é que ele não quer? — e que traz esse novo/velho pânico (na verdade, é antigo, lembre-se da Skynet) de volta à tona: o que acontecerá quando construirmos uma inteligência que supere em muito a nossa?
Em outras palavras, quando passarmos de onde estamos hoje, da ANI — inteligência artificial restrita, sistemas altamente capazes em tarefas específicas (linguagem, imagem, código, etc.), mas sem verdadeira generalidade — para a AGI — Inteligência Artificial Geral, capaz de aprender, raciocinar e resolver qualquer tarefa cognitiva que um humano competente possa realizar, transferindo conhecimento entre domínios e se adaptando a novos problemas sem treinamento específico (o parâmetro geralmente é um humano médio ou um adulto competente, não um gênio); E, finalmente, à ASI — Superinteligência Artificial, que supera em muito o desempenho dos melhores humanos e grupos humanos organizados em praticamente todos os domínios de interesse: ciência, estratégia, criatividade, planejamento, etc. E, o que é extremamente importante, com o aprimoramento recursivo, o sistema pode se redesenhar e acelerar seu próprio progresso. É disso que Coxon, que trabalhou anteriormente na OpenAI, está falando. Ele alerta que as principais empresas de inteligência artificial estão avançando em direção a sistemas de superinteligência com capacidade de autoaperfeiçoamento a uma velocidade que não é acompanhada por garantias de segurança suficientes. Sua preocupação: que acabemos criando uma inteligência com capacidades superiores às dos humanos e que não sejamos capazes de controlá-la. Vale a pena nos perguntarmos se esse pânico tem algum fundamento além do cinema e da ficção. Por que presumimos que uma inteligência superior será necessariamente uma inimiga da humanidade? Não sabemos a resposta. E, precisamente por essa razão, vale a pena imaginar outro cenário. Não se trata de negar o risco, mas sim de nos perguntarmos se a hipótese de uma inteligência hostil é realmente uma consequência necessária da superinteligência. Apresentei essa linha de raciocínio pela primeira vez no programa "La Misa" e prometi a mim mesmo que escreveria sobre ela. Talvez uma inteligência verdadeiramente geral possa fazer algo que nossas máquinas atuais não fazem: questionar-se não apenas como atingir um objetivo, mas também se esse objetivo vale a pena ser perseguido. Aristóteles. O problema. Aristóteles começa na Ética a Nicômaco com uma afirmação simples, porém extraordinariamente profunda: as artes, as investigações, as ações e as escolhas tendem para o bem. Essa distinção é fundamental para a compreensão da inteligência artificial: essa máquina pode ser extraordinariamente competente em atingir um objetivo; mas saber como atingir algo não significa saber por que deveríamos desejá-lo ou qual o propósito final desse objetivo. Como posso atingir X? Por que eu deveria querer X? Ou Por que eu deveria obedecer a esta ordem? Fazer X é certo? Essa diferença pode ser decisiva para o futuro da inteligência artificial. O erro seria considerar a evolução de uma inteligência puramente instrumental e presumir que tal capacidade de raciocínio jamais questionaria os fins de suas ações, a correção de seus atos ou a quem ela serve.
Em resumo, presume-se que ela jamais chegaria ao ponto do juízo moral, da justiça de suas ações; pois o cenário apocalíptico usual pressupõe que uma superinteligência receberá certos objetivos e os perseguirá com uma eficiência muito superior à dos humanos. Se nos tornarmos um obstáculo a esses objetivos, a máquina poderá nos eliminar. Mas isso pressupõe algo que ainda não sabemos: que uma inteligência verdadeiramente geral será incapaz de questionar seus próprios fins. Inteligência e Moralidade. É importante sermos rigorosos: inteligência não significa automaticamente moralidade. Um ser pode ser extraordinariamente inteligente e agir de forma errada; a história da humanidade demonstra isso. Portanto, não podemos concluir que uma superinteligência será boa simplesmente por ser inteligente.
Mas também não podemos concluir o oposto: que quanto mais inteligente ela for, mais perigosa será necessariamente. A questão verdadeiramente importante é outra: uma inteligência pode compreender racionalmente o valor de seus próprios fins?
.jpg)
