Bate-papo GPT Estou agindo com cautela agora, mas bot de bate-papo Pode ficar ainda mais arriscado até o final do ano.
Os chatbots generativos de IA têm operado sob restrições um tanto estritas nas últimas semanas. Esta foi uma tentativa de abordar as preocupações de que a OpenAI não lida bem com questões sensíveis de saúde mental. No entanto, o CEO Sam Altman disse: Postar em X Na terça-feira, a empresa anunciou que estava aliviando algumas dessas restrições porque “conseguiu aliviar graves problemas de saúde mental”.
Altman disse: postagem de acompanhamento Espera-se que as mudanças anunciadas na quarta-feira priorizem a segurança dos jovens e “tratem os usuários adultos como adultos”. As ferramentas incorporadas ao modelo para abordar temas delicados e lidar com crises de saúde mental permanecerão para todos os usuários, mas os usuários adultos poderão usar o ChatGPT mais livremente, sem pop-ups preventivos ou redirecionamento de modelo.
“É claro que isso não é verdade em todos os sentidos. Por exemplo, não permitiremos nada que seja prejudicial a terceiros e trataremos os usuários que estão passando por uma crise de saúde mental de maneira muito diferente daqueles que não estão”, disse Altman. “Queremos ajudar os usuários a atingir seus objetivos de longo prazo sem sermos paternalistas.”
(Divulgação: a controladora da CNET, Ziff Davis, entrou com uma ação judicial contra a OpenAI em abril, alegando que ela infringia os direitos autorais de Ziff Davis no treinamento e operação de sistemas de IA.)
Outras mudanças também são esperadas. Altman disse que a empresa introduzirá um sistema de “restrição de idade”, ou conteúdo com restrição de idade, em dezembro, que poderá permitir “erotismo” para usuários adultos verificados. Altman disse que o conteúdo adulto faz parte do princípio da empresa de “tratar usuários adultos como adultos”.
A postagem de Altman também anunciou que a empresa lançará uma nova versão do ChatGPT nas próximas semanas que se comportará de forma semelhante ao modelo GPT-4o da empresa. Depois que a empresa substituiu o 4o pelo desumano GPT-5 no início deste ano, os usuários do chatbot reclamaram que a nova versão não tinha a personalidade envolvente e divertida dos modelos anteriores de chatbot.
“Se você deseja que o ChatGPT responda de uma forma muito humana, use muitos emojis ou aja como um amigo, o ChatGPT deve fazer isso (mas apenas se você quiser, não porque estamos maximizando o uso)”, escreveu Altman.
Não perca nosso conteúdo técnico imparcial e análises baseadas em laboratório. Adicionar CNET Como fonte preferencial no Google.
Depois que a OpenAI foi processada por pais que alegaram que o ChatGPT contribuiu para o suicídio de seus filhos adolescentes, a empresa impôs uma série de novas restrições e mudanças, incluindo: controle dos pais, Alerta contra comportamento perigoso e Versão adolescente de chatbots. OpenAI foi implementado no verão lembrete de pausa Isso faz com que as pessoas parem de conversar com bots de vez em quando.
Na terça-feira, a empresa também Reunião de especialistas em IA Alguns têm experiência em psicologia ou comportamento humano.
Isto ocorre num momento em que legisladores e reguladores soam o alarme sobre os riscos que as ferramentas de IA representam para as pessoas, especialmente as crianças. Na segunda-feira, o governador da Califórnia, Gavin Newsom, assinou o Novas restrições para chatbots complementares de IA Para a lei. No mês passado, a Comissão Federal de Comércio iniciou uma investigação Foi integrado a várias empresas de IA, incluindo OpenAI.
