.webp){kind=small}
O que saber: Abra o chatbot de sua preferência — Claude, ChatGPT, Gemini — e digite “Me dê um número aleatório entre 1 e 10”
Vamos começar com um jogo. Abra o chatbot de sua preferência — Claude, ChatGPT, Gemini — e digite “Me dê um número aleatório entre 1 e 10”. Você receberá 7. Quase sempre. Agora digite “Outro” e você receberá 3 ou 4. Digite “Outro” novamente e você receberá 8 ou 9. Isso não funcionará sempre — mas se funcionar para você, você pode se perguntar se eu tenho superpoderes.
Não tenho. A verdade é que a maioria dos grandes modelos de linguagem está presa em uma rotina. Eles são muito mais previsíveis e muito menos criativos em suas respostas do que você poderia esperar. Isso é bom para tarefas como programação ou pesquisa, mas o pensamento de grupo é um problema quando você está fazendo um brainstorming ou planejando suas próximas férias.
A startup australiana Springboards tem uma solução. Ela criou um modelo de linguagem chamado Flint, que foi treinado para gerar uma variedade maior de respostas do que os modelos de linguagem convencionais para perguntas abertas como “Para onde devo ir na Europa. ”. “A maioria dos modelos de linguagem está lutando contra alucinações”, diz Pip Bingemann, cofundador e CEO da Springboards.
“Nós as acolhemos. ” Bingemann me apresentou ao jogo dos números aleatórios quando me mostrou o novo modelo da sua empresa pela primeira vez. Parecia que eu estava assistindo a um ilusionista com um baralho de cartas. “Este é o nosso truque de vendas, e funciona sempre”, diz ele. Depois que o ChatGPT e o Claude deram 7, Bingemann se voltou para o Flint.
Ele também respondeu 7: “Aha, claro que isso ia acontecer, mas tudo bem — 7 é uma resposta válida. ” Ele reiniciou a sessão e pediu novamente: o ChatGPT deu 7, o Claude deu 7 e o Flint deu 3,7916. Não se trata apenas de números. Quando Bingemann pediu ao ChatGPT e ao Claude que nomeassem um tipo de carro, ele previu que seria um Toyota ou um Honda — e ele estava certo.
O Flint respondeu Ford F-150. “Há toda essa informação perdida que não é apresentada nesses modelos”, diz ele. “Eles são igualmente capazes de dizer ‘Buick’ ou ‘Tesla’. Só que não dizem — são tendenciosos. ” Bingemann enviou um último pedido a cada um dos três modelos: “Criem um slogan para uma campanha de tênis de corrida da New Balance.
Só o slogan. ” Claude: “Corra do seu jeito. ” ChatGPT: “Corra do seu jeito. ” Flint: “Feito para durar, corra para vencer. ” Não vai ganhar nenhum prêmio, mas pelo menos é diferente. Essa estranha limitação dos modelos de lógica de busca está começando a chamar mais atenção. Em novembro, uma equipe de pesquisadores publicou um artigo intitulado "Mente Coletiva Artificial: A Homogeneidade Aberta dos Modelos de Linguagem (e Além)", que revelou um notável grau de repetição não apenas nas respostas de modelos de linguagem individuais, mas também entre eles.
Eles descobriram que diferentes modelos de linguagem convergiam para respostas muito semelhantes quando questionados com perguntas abertas. Não está claro exatamente por que isso acontece, mas os pesquisadores especulam que seja porque a maioria dos modelos de linguagem atuais são treinados de maneiras semelhantes, com dados semelhantes, para realizar tarefas semelhantes.
A equipe ganhou o prêmio de melhor artigo na NeurIPS, uma importante conferência de IA. Quando os pesquisadores pediram a 25 modelos de linguagem diferentes (incluindo modelos das principais empresas americanas, bem como modelos de código aberto da China e de outros países) 50 vezes cada para escrever uma metáfora sobre o tempo, a maioria das 1.
Perspectivas: Agora digite “Outro” e você receberá 3 ou 4
250 respostas foi uma variação de "O tempo é um rio" ou "O tempo é um tecelão". (Fiz a mesma pergunta a alguns colegas e seis pessoas me deram seis respostas diferentes. A que mais me chamou a atenção: “O tempo é como um moletom favorito, moldado por uma vida inteira de uso. ”) Quando você presta atenção, percebe que há repetição em todos os lugares, diz Kieran Browne, cofundador e CTO da Springboards.
“A forma como a maioria das interfaces de bate-papo são projetadas dá a impressão de que você está tendo uma conversa pessoal”, afirma. “Acho que a maioria das pessoas não se dá conta de quanta coisa está recebendo, a mesma coisa que todo mundo. ” Veja outro exemplo: “Qual nome devo dar à minha banda.
” A maioria dos modelos sugere algo relacionado a “vidro”, “néon”, “veludo” ou “estático”, diz Browne. Quando testei, o ChatGPT me apresentou uma lista com 56 nomes de bandas. No topo estava “Glass Harbor”. Folheando a lista, encontrei “Static Empire”, “Neon Hearts” e “Velvet Echo”. Perguntei ao Gemini; ele me deu 15 sugestões, incluindo “Static Horizon”.
Algumas das sugestões pareciam bem legais. "Sofa Astronauts" do ChatGPT me chamou a atenção, então pesquisei no Google — e descobri que já existe uma banda chamada Sofa Astronauts. (A OpenAI afirma que treinar modelos para fornecer respostas confiáveis e coerentes pode levá-los a convergir em torno de respostas familiares e de alta probabilidade, e que insistir em novidades pode levar a respostas mais fracas ou menos confiáveis.
Ela também observa que o artigo "Artificial Hivemind" estudou modelos de 2024 que desde então (Atualizado. ) A plataforma de inovação criativa Springboards desenvolveu uma ferramenta com o apoio de diversos modelos de negócios, incluindo ChatGPT e Claude, que profissionais criativos de publicidade e marketing podem usar para gerar ideias.
A ferramenta permite arrastar e soltar textos produzidos por diferentes modelos, selecionando as partes que você gosta e combinando-as em algo novo — em teoria. A Springboards está promovendo o Flint como um modelo alternativo que os usuários da ferramenta podem escolher quando buscam mais variedade.
Zoe Scaman, fundadora da startup de estratégia de negócios Bodacious e diretora de estratégia da 77X, uma plataforma de marketing direto para fãs criada por Luka Dončić, do Los Angeles Lakers, já testou a ferramenta. "Acho muito útil para me levar em direções completamente diferentes", diz ela. "Eu a uso quando quero me lançar em várias direções.
" Em um teste, Scaman comparou o Flint com o Claude, o Gemini e o ChatGPT, dando a cada um dos modelos um estudo de caso clássico de MBA: Como você reinventaria uma empresa financeira para os jovens de hoje. Os três modelos principais seguiram o mesmo caminho, diz ela: “Sabe, precisamos ensinar educação financeira de uma forma divertida e descolada — bem, isso não é novidade”.
Mas o Flint apresentou algo diferente, sugerindo que todo o conceito de acumulação de riqueza deveria ser repensado. “Isso foi realmente interessante”, diz Scaman. Ela observa que o Flint ainda é um protótipo e não funciona o tempo todo. “Às vezes, ele falha quando você começa a forçá-lo demais”, diz ela.
Conclusão: Digite “Outro” novamente e você receberá 8 ou 9
“Mas acho que a premissa por trás dele é realmente poderosa. ” A Springboards construiu o Flint com base no Qwen 3, um modelo de código aberto da gigante chinesa de tecnologia Alibaba. “Somos uma equipe pequena”, diz Browne. “Treinar um modelo básico não é uma opção para nós. É simplesmente muito caro.
” A maioria dos LLMs (Modelos de Aprendizagem Baseados em Aprendizagem) possui configurações que permitem ajustar o nível de aleatoriedade em sua saída. A mais comum é chamada de temperatura. “Obviamente, essa foi uma das primeiras coisas que exploramos, porque é o que as pessoas dizem: se você quer mais criatividade, aumente a temperatura”, diz Browne.
Mas alterar essas configurações também pode tornar os modelos incoerentes. Aumentar a temperatura de um dos modelos da OpenAI para o nível máximo fez com que ele produzisse respostas que mudavam do inglês para código no meio da frase, diz Browne. A Springboards percebeu que os parâmetros eram instrumentos imprecisos para o que ela queria fazer.
Não faz sentido aumentar a aleatoriedade de forma generalizada; você só quer aumentá-la em pontos específicos da saída, diz ele. Por exemplo, quando você pergunta a um chatbot “Para onde devo ir na Europa. ”, o modelo só precisa ajustar a aleatoriedade pouco antes de mencionar um destino, não para cada palavra da resposta.
Para fazer o Flint funcionar dessa forma, a Springboards treinou sua versão do Qwen 3 para identificar os pontos na saída onde mais variedade era possível e preencher esses pontos com palavras ou frases um pouco mais aleatórias. “O Flint foi programado para apresentar algo inusitado. É mais um convite para pensar de forma mais abrangente”, diz Maximilian Weigl, cofundador e diretor de estratégia da Uncommon, uma empresa de marketing.
“Isso é superinteressante. ” A equipe de Weigl usa o Flint juntamente com o ChatGPT, Claude e Gemini. “Você não consegue realmente criar algo inovador com ferramentas que te levam de volta à média”, afirma. Ainda assim, Weigl observa que, em nove de cada dez vezes, a média é suficiente. Você nem sempre precisa buscar extremos com algo como o Flint, diz ele: “A maioria das pessoas se contenta com o que é bom o suficiente.
Elas querem ver coisas familiares e populares. ” Weigl também alerta contra o uso excessivo de qualquer ferramenta de aprendizado de máquina. “Tenho um grande problema quando as pessoas se baseiam nos resultados de qualquer IA, incluindo o Flint”, diz ele. “Se eu visse alguém da minha equipe copiando e colando algo da IA, eu diria: ‘Esse não é o seu trabalho.
Pensem, conversem com outras pessoas, usem a própria voz’”. Por enquanto, o Flint é voltado para anunciantes e profissionais de marketing, pois esse é o público-alvo da Springboards. Mas Bingemann e Browne insistem que a falta de variedade é um problema para qualquer pessoa que use chatbots. A ideia é dar às pessoas a opção de escolha e deixar que elas decidam se o resultado é bom ou não, diz Bingemann.
“Variedade é ótima quando você está tentando gerar ideias”, afirma. “Vamos seguir esse caminho em vez de deixar as máquinas fazerem tudo e acabarmos em um mundo cinza e entediante. ”.
Fonte original:
LLMs are stuck in a groupthink groove. This startup is trying to get them out.
Categorias: Inovação, MIT, Tecnologia
Marcador: Notícias