.webp){kind=small}
O que saber: No início deste mês, um tribunal alemão decidiu que o Google é responsável pelos seus resumos de pesquisa gerados por IA.
No início deste mês, um tribunal alemão decidiu que o Google é responsável pelos seus resumos de pesquisa gerados por IA. Rejeitando argumentos como "os usuários podem verificar por si mesmos" e "eles geralmente sabem que as informações geradas por IA não devem ser confiadas cegamente", o tribunal considerou que os resumos de IA são reflexos da empresa e "acima de tudo, uma expressão das atividades comerciais do Google".
Esta é a mais recente escaramuça em uma batalha de décadas sobre a publicação na internet. Historicamente, existiam dois tipos diferentes de distribuidores de informação: operadoras e editoras. Uma companhia telefônica é uma operadora. Ela transmite tudo o que você diz, até mesmo discussões sobre a prática de um crime.
Palavras são palavras, e a companhia telefônica não sabe — nem é responsável — pelas palavras que você escolhe dizer. Um jornal, por outro lado, é uma editora. A empresa decide as palavras que publica e quais citações incluir em seus artigos. Se essas palavras ou citações forem difamatórias ou ilegais, ela será responsabilizada.
As empresas de internet há muito tempo tentam se aproveitar dessa distinção. Elas se apresentam como transmissoras quando lhes convém e como editoras quando isso lhes é vantajoso. A Seção 230 da Lei de Decência nas Comunicações de 1996 consagrou essa ambiguidade ao proteger os provedores de internet da responsabilidade pela expressão de terceiros em suas plataformas: “Nenhum provedor ou usuário de um serviço de informática interativo será tratado como editor ou autor de qualquer informação fornecida por outro provedor de conteúdo informativo”.
Por anos, houve um debate sobre como aplicar essa lei às plataformas de mídia social. Quando as plataformas simplesmente exibiam as postagens e comentários das pessoas em ordem cronológica inversa, elas se comportavam basicamente como transmissoras, retransmitindo as palavras das pessoas sem levar em consideração seu conteúdo.
Mas a próxima geração de plataformas, como o Facebook, selecionou feeds com algoritmos e, assim, agiu mais como editoras, tomando decisões editoriais sobre quem vê o quê. Alguns especialistas acham que a Seção 230 foi longe demais e precisa de reforma; outros acham que é o que mantém a internet moderna unida.
Perspectivas: Esta é a mais recente escaramuça em uma batalha de décadas sobre a publicação na internet.
Os resumos de IA do Google são muito menos sutis. Funcionam de maneira diferente da busca tradicional, que, segundo decisões judiciais, envolve arquivar e facilitar o acesso ao conteúdo editorial de terceiros. Os resumos de IA não apenas citam e republicam palavras de diferentes sites. Com os resumos, a IA reescreve as palavras de outras pessoas, exercendo discrição editorial como um artigo de jornal ou um ensaio original sobre um tópico.
E não é só a IA do Google que se enquadra nessa categoria. Imagine um site de avaliações de restaurantes que fornece resumos de IA, ou um site que resume leis e procedimentos governamentais. Ou uma editora tradicional que usa IA para resumir sua própria publicação. A precisão importa, e a responsabilidade é uma das formas mais importantes pelas quais nós, como público, podemos exigir precisão e responsabilizar as empresas quando elas causam danos.
Há dois anos, a Air Canada aprendeu essa lição. Seu chatbot de IA prometeu um desconto que a empresa posteriormente revogou, argumentando em juízo que a companhia aérea não era responsável pelas promessas feitas pelo bot, pois este era uma "entidade jurídica separada, responsável por suas próprias ações".
O tribunal decidiu a favor do passageiro, afirmando que a companhia aérea era tão responsável pelo conteúdo do chatbot quanto pelo conteúdo de seu site. O precedente potencial aqui é que as empresas têm o dever de zelar pelo desempenho dos chatbots de IA que utilizam. Os agentes de IA são agentes da pessoa ou organização que os implementa e devem ser tratados como tal pela lei.
Se uma empresa contratasse redatores humanos para escrever seus resumos, essa empresa seria responsabilizada por imprecisões nesses resumos. Se um agente humano de uma empresa assinasse contratos em nome da empresa, esta estaria vinculada a esses contratos. E se um médico desse conselhos médicos perigosamente errados, ele seria responsabilizado por negligência.
Permitir que as empresas se escondam atrás da desculpa de uma IA falha nessas mesmas circunstâncias seria uma enorme concessão às empresas e introduziria incentivos desastrosos para má conduta corporativa. Por que contratar redatores, advogados ou médicos humanos quando as IAs não só são mais baratas, como também absolvem os empregadores sempre que cometem um erro.
Conclusão: Historicamente, existiam dois tipos diferentes de distribuidores de informação: operadoras e editoras.
Estamos caminhando rapidamente para um mundo onde chatbots com inteligência artificial estarão na outra ponta de todos os tipos de canais de comunicação corporativa. Não faz sentido uma empresa poder honrar suas declarações quando quer e negá-las quando não quer. A Visa e a OpenAI anunciaram recentemente uma parceria para criar agentes pessoais de IA que, entre outras coisas, farão compras em nosso nome.
Este é apenas um dos muitos projetos semelhantes em desenvolvimento, à medida que as empresas competem para nos fornecer assistentes de IA. A Visa assumirá a responsabilidade quando sua IA fizer uma compra em seu nome que você não deseja. E se a Visa não assumir, por que alguém confiaria no sistema.
A alocação adequada de responsabilidade é fundamental para que esse tipo de coisa funcione. Se a decisão alemã for mantida, poderá ser devastadora para o recurso Visão Geral de IA do Google. Testes realizados no início deste ano constataram que ele apresentava erros em cerca de 10% das vezes. Com mais de 5 trilhões de buscas por ano, isso representa 16.
000 resumos errôneos por segundo. Embora a maioria desses erros seja benigna, alguns podem causar danos, ser difamatórios ou gerar responsabilidade legal. No início deste ano, o resumo de IA do Google identificou erroneamente o violista canadense Ashley MacIsaac como um criminoso sexual. O processo movido por ele em Ontário ainda está em andamento.
Se o Google for obrigado a investir na melhoria de seu sistema de IA até que esse tipo de erro se torne extremamente raro, isso parece um bom resultado para os usuários, bem como para os alvos da busca, como MacIsaac. De maneira mais geral, as preocupações com a responsabilidade legal podem significar que muitos casos de uso atuais para agentes não serão comercialmente viáveis.
As empresas podem não conseguir operar advogados, médicos e influenciadores de mídia com IA de forma lucrativa se forem responsabilizadas pelo que dizem e fazem. Estamos de acordo com esse resultado. Não há nada na lei que nos obrigue a acomodar sistemas de IA se eles forem fundamentalmente indignos de confiança, assim como não precisamos acomodar sistemas humanos indignos de confiança.
Qualquer empresa que não se responsabilize pelas declarações feitas por seus agentes — sejam eles humanos ou de IA — não merece o tempo nem o dinheiro dos usuários.
Fonte original:
AI and Liability
Categorias: Tecnologia, Cibersegurança, Privacidade
Marcador: Notícias
