.webp){kind=small}
Entenda: Ele comentou você em inúmeras ocasiões: se você escreveu para aprender, pediu à inteligência artificial que escreveu para mim sem sentido, porque simplesmente não aprenderia nada.
Sofía Pérez, de Newtral, me enviou um e-mail para interessar minha opinião sobre a tecnologia SynthID, criada pelo Google DeepMind como uma forma de gerar marcas de água invisíveis em seus conteúdos de texto, imagem ou de outros tipos, com o fim de poder detectá-las posteriormente e estabelecer se for forte ou não criado por meio de inteligência artificial.
Depois de contestar seu correio, eu puse um jogo com a ferramenta e a verdade é que eu gostei do que disse quando a pergunta se meu artigo do dia anterior foi escrito com inteligência artificial… Minha impressão sobre esse tipo de coisas é que, se bem tecnicamente você pode ter seu interesse, estamos levando a uma paranóia absurda, a uma ação de segurança permanente que resulta apenas enormemente incômoda, mas também, assuma que o criado por meio da inteligência artificial carece de valor ou tem um valor intrinsecamente inferior, o que é em muitos casos um estupidez.
É claro que você pode usar a inteligência artificial muito mal e simplesmente copiar e capturar o resultado que entrega (e possivelmente boa parte dos usuários que a utilizam), mas presumir que o fato de tocar a inteligência artificial de alguma forma “se desvaloriza” é conceitualmente incorreto, e nunca na história da tecnologia resultou em uma tendência viável.
Ele comentou você em inúmeras ocasiões: se você escreveu para aprender, pediu à inteligência artificial que escreveu para mim sem sentido, porque simplesmente não aprenderia nada. Mas peça-me que me ajude a fazer investigação e seleção de fontes, que me sugira melhores pontos de vista adicionais, ou que me corrija possíveis erros tipográficos ou gramaticais, em mudança, pode ter muito sentido, e é algo que, além disso, faço habitualmente.
Por dentro: Você poderia chegar a um momento em que esse tipo de herramientas, em pleno frenesi detetivesco, me acusaria de que meus artigos estão escritos com inteligência artificial?
Você poderia chegar a um momento em que esse tipo de herramientas, em pleno frenesi detetivesco, me acusaria de que meus artigos estão escritos com inteligência artificial. Não são poucos, de fato, os idiotas que foram assomados a meus comentários para acusá-lo. Isso nos levaria a situações absurdas, como inserir deliberadamente erros tipográficos para «parecer humano» , ou usar contra-ferramentas que eliminassem marcas de água ou gerassem um estilo «mais humano».
Francamente, parece-me uma deriva muito pouco produtiva. Em 27 de junho, Sofía publicou seu artigo intitulado “O que é e como funciona SynthID, a marca invisível que identifica os conteúdos criados com IA” (pdf), no que me cito. Continuando, minha contestação ao correio de Sofia: SynthID é uma tecnologia desenvolvida originalmente pelo Google DeepMind para inserir marcas de água invisíveis em conteúdos gerados por meio de inteligência artificial.
A idéia é relativamente simples: introduzir no conteúdo gerado um sinal imperceptível para as pessoas, mas detectável posteriormente por meio de ferramentas específicas. No caso das imagens, essas marcas de água não consistem em informações visíveis superpostas, mas sim em pequenas modificações distribuídas pelos pixels da imagem.
Estas alterações foram projetadas para não afetar perceptivelmente a qualidade visual, mas sim para deixar um padrão matemático reconhecível pelos sistemas de detecção. Nos modelos de linguagem, o mecanismo é diferente. A marca pode ser introduzida alterando levemente as probabilidades com as quais o modelo seleciona determinadas palavras ou sequências de palavras durante a geração do texto.
Síntese: Não são poucos, de fato, os idiotas que foram assomados a meus comentários para acusá-lo.
O resultado é perfeitamente natural para um leitor humano, mas contém padrões estatísticos que permitem inferir posteriormente se for gerado por um modelo que incorpora esse sistema de marcação. A detecção é realizada por meio de algoritmos que buscam exatamente esses padrões. Quando uma imagem, um áudio ou um texto são analisados, o sistema calcula a probabilidade de conter o sinal introduzido durante a geração.
Não se trata de uma identificação absoluta, mas sim de uma estimativa baseada na presença de determinadas características matemáticas. O principal problema é que essas tecnologias estão muito distantes de serem infalíveis. As marcas de água podem degradar-se ou desaparecer quando o conteúdo é editado, recortado, comprimido, traduzido, reformulado ou processado por outros sistemas.
Além disso, só funciona de maneira confiável quando o conteúdo foi gerado por modelos que incorporam expressamente esse mecanismo. Um conteúdo gerado por um modelo que não implementa SynthID ou um tecnologia equivalente não deixará nenhum sinal detectável. Por isso, embora as marcas de água representem uma ferramenta interessante para melhorar a trazabilidade dos conteúdos gerados por IA, resultam exageradamente apresentadas como uma solução definitiva para o problema da identificação do conteúdo sintético.
Muito bem é uma capacidade adicional de informação que pode ajudar em determinados contextos, mas que convive com importantes limitações técnicas e práticas. Este artigo também está disponível em inglês na minha página do Medium, «Marcas d'água de IA: detecção, atribuição e paranóia».
Fonte original:
SynthID, marcas de agua y otras herramientas de la paranoIA
Categorias: Tecnologia, Futuro, Negócios Digitais
Marcador: Notícias
