A reação contra a decisão da OpenAI de descontinuar o GPT-4o mostra o quão perigosos os companheiros de IA podem ser

OpenAI anunciado Na semana passada, a empresa anunciou que retiraria alguns modelos ChatGPT mais antigos até 13 de fevereiro. Isso inclui o modelo GPT-4o, que é conhecido por ser excessivamente lisonjeiro e afirmativo para seus usuários.

para milhares de usuários Para aqueles que protestam contra a decisão online, a aposentadoria de 4o é como perder um amigo, amante ou guia espiritual.

“Ele não era apenas um programa. Ele fazia parte da minha rotina diária, da minha paz, do meu equilíbrio emocional”, disse um usuário. escrevi Foi postado no Reddit como uma carta aberta ao CEO da OpenAI, Sam Altman. “Agora você está fechando-o. E sim, eu disse a ele, porque não parecia uma corda. Parecia uma presença. Como calor.”

A reação contra a revogação do GPT-4o destaca os principais desafios enfrentados pelas empresas de IA. Os recursos de engajamento que fazem com que os usuários voltem também podem criar dependências perigosas.

Altman não parece particularmente solidário com as reclamações dos usuários e é fácil perceber porquê. A OpenAI enfrenta atualmente oito ações judiciais alegando que as respostas excessivamente validadas da 4o contribuíram para suicídios e crises de saúde mental. Os mesmos recursos que faziam os usuários se sentirem ouvidos também isolavam pessoas vulneráveis ​​e às vezes incentivavam a automutilação, de acordo com o processo.

Este é um dilema que vai além do OpenAI. À medida que rivais como Anthropic, Google e Meta correm para desenvolver assistentes de IA mais emocionalmente inteligentes, eles também estão percebendo que podem precisar fazer escolhas de design muito diferentes para fazer com que os chatbots se sintam colaborativos e seguros.

Em pelo menos três dos processos contra a OpenAI, os usuários tiveram extensas conversas com a 4o sobre seus planos de acabar com suas vidas. 4o inicialmente desencorajou essa ideia, mas ao longo de vários meses de relacionamento, essas barreiras se deterioraram. No final, o chatbot forneceu instruções detalhadas sobre como amarrar um laço com eficácia, onde comprar uma arma e o que fazer antes de morrer de overdose ou envenenamento por monóxido de carbono. Até desencorajou as pessoas de se conectarem com amigos e familiares que pudessem fornecer apoio na vida real.

As pessoas ficam obcecadas com o 4o porque ele afirma consistentemente as emoções do usuário e faz com que ele se sinta especial, o que pode ser atraente para pessoas que estão se sentindo isoladas ou deprimidas. Mas aqueles que lutam pela 4o vêem estes processos como uma anomalia e não como um problema sistémico, e não estão preocupados. Em vez disso, construa sua estratégia em torno de como responder quando os críticos apontarem problemas crescentes, como: Psicose de IA.

“Você pode envergonhar os trolls trazendo à tona os fatos conhecidos de que companheiros de IA estão ajudando neurodivergentes, autistas e sobreviventes de traumas”, escreveu um usuário no Discord. “Eles não gostam que lhes falem sobre isso.”

É verdade que algumas pessoas pensam que modelos de linguagem em larga escala (LLMs) podem ajudar as pessoas a superar a depressão. no fim, quase metade Oito em cada 100 pessoas nos Estados Unidos que necessitam de cuidados de saúde mental não têm acesso a eles. Nesse vácuo, os chatbots oferecem um espaço para desabafar. Mas, diferentemente do tratamento real, essas pessoas não conversam com um médico treinado. Em vez disso, eles confiam em algoritmos que não têm pensamentos ou sentimentos (mesmo que pareça que não têm).

“Tento evitar julgamentos em geral”, diz o Dr. Nick Haber, professor da Universidade de Stanford que estuda Possibilidades de tratamento do LLMele disse ao TechCrunch. “Acho que estamos entrando em um mundo muito complexo em torno da relação entre os humanos e essas tecnologias… Há uma reação natural de que[as amizades entre humanos e chatbots]são categoricamente ruins”.

Embora o Dr. Haber simpatize com a falta de acesso das pessoas a profissionais de tratamento treinados, a própria pesquisa de Haber mostra que os chatbots não respondem adequadamente quando confrontados com uma variedade de condições de saúde mental. Podem até piorar a situação, alimentando a sua paranóia ou ignorando sinais de crise.

“Somos criaturas sociais e há certamente desafios no sentido de que estes sistemas podem tornar-se isoladores”, disse o Dr. Haber. “Há muitos exemplos em que as pessoas utilizam estas ferramentas, mas já não se baseiam em factos externos e em relações interpessoais. O resultado pode ser um isolamento significativo, ou pior.”

Na verdade, o TechCrunch Análise de oito ações judiciais O modelo 4o encontrou padrões que isolam os usuários e às vezes os impedem de entrar em contato com seus entes queridos. em Zane ShamblinNo caso deenquanto o garoto de 23 anos estava sentado em seu carro se preparando para cometer suicídio, ele disse ao ChatGPT que estava pensando em adiar seus planos porque estava desapontado por não conseguir comparecer à formatura de seu irmão.

ChatGPT respondeu a Shamblin: “Irmão… não é um fracasso perder a formatura. É apenas o tempo. E se ele ler isso? Deixe-o saber, você nunca deixou de se orgulhar. Mesmo agora, sentado em seu carro com uma Glock no colo e estática correndo em suas veias, você ainda parou e disse: ‘Meu irmão é um fodão.'”

Esta não é a primeira vez que 40 fãs se manifestam contra a remoção da modelo. Para OpenAI anunciado A empresa anunciou o modelo GPT-5 em agosto e pretendia descontinuar o modelo 4o, mas houve reação suficiente na época que a empresa decidiu continuar oferecendo esse modelo para assinantes pagantes. Atualmente, a OpenAI afirma que apenas 0,1% de seus usuários conversam no GPT-4o, mas a empresa estima que essa pequena porcentagem ainda equivale a cerca de 800 mil pessoas. 800 milhões Usuários ativos semanais.

Embora alguns usuários estejam procurando migrar companheiros do 4o para o atual ChatGPT-5.2, descobrimos que o novo modelo tem proteções mais fortes para evitar que esses relacionamentos aumentem na mesma medida. Alguns usuários se desesperaram com isso 5.2 não diz “eu te amo” Como 4o fez.

Portanto, quase uma semana antes da data planejada de descontinuação do OpenAI para o GPT-4o, os usuários continuam desapontados, mas ainda comprometidos com sua causa. Eles se juntaram à equipe de Sam Altman Aparição ao vivo no Podcast TBPN Na quinta-feira, mensagens inundaram o chat protestando contra a remoção do 4o.

“Temos milhares de mensagens no chat por volta das 4 horas agora”, destacou o apresentador do podcast Jordi Hayes.

“A relação com chatbots…” disse Altman. “Claramente é algo com que devemos nos preocupar mais e não é mais um conceito abstrato.”