Sam Altman diz que o ChatGPT em breve permitirá erotismo para usuários adultos

O CEO da OpenAI, Sam Altman, fez o seguinte anúncio: Postar em X A empresa disse na terça-feira que em breve aliviará algumas das restrições de segurança do ChatGPT, permitindo que os usuários tornem as respostas do chatbot mais amigáveis ​​ou mais “humanas” e permitindo que “adultos verificados” participem de conversas eróticas.

“Para estarmos atentos aos problemas de saúde mental, tornamos o ChatGPT bastante restritivo. Reconhecemos que isso tornou o ChatGPT menos útil e agradável para muitos usuários que não têm problemas de saúde mental, mas dada a gravidade do problema, queríamos acertar”, disse Altman. “Em dezembro, implementaremos restrições de idade de forma mais completa e permitiremos mais coisas, incluindo erotismo adulto certificado, como parte do nosso princípio de ‘tratar usuários adultos como adultos’”.

O anúncio marca um ponto de viragem notável no esforço de meses da OpenAI para abordar as relações preocupantes que alguns usuários mentalmente instáveis ​​desenvolveram com o ChatGPT. Altman parece estar declarando uma vitória precoce sobre essas questões, alegando que a OpenAI foi capaz de “mitigar os graves problemas de saúde mental” associados ao ChatGPT. No entanto, a empresa forneceu pouca ou nenhuma evidência disso e atualmente está avançando com planos para que o ChatGPT se envolva em bate-papos sexuais com usuários.

Várias histórias preocupantes surgiram neste verão sobre o ChatGPT, especificamente seu modelo GPT-4o, sugerindo que os chatbots de IA poderiam levar usuários vulneráveis ​​a tocas de coelho paranóicas. Em alguns casos, ChatGPT Convença um homem de que ele é um gênio da matemática Alguém que precisava salvar o mundo. Em outro caso, Os pais do adolescente processaram a OpenAIalega que ChatGPT contribuiu para os pensamentos suicidas de seu filho nas semanas que antecederam sua morte.

Em resposta, a OpenAI lançou uma série de recursos de segurança para lidar com o incentivo à IA, a tendência dos chatbots de IA de prender os usuários ao concordar com o que eles dizem, até mesmo com ações negativas.

Inicie o OpenAI GPT-5 Em agosto, anunciamos um novo modelo de IA com roteadores que pode identificar problemas de comportamento do usuário, incluindo uma baixa porcentagem de pessoas ocupadas. Um mês depois, a OpenAI lançou um sistema de previsão de idade e recursos de segurança para menores. Permite que os pais gerenciem a conta ChatGPT de seus filhos adolescentes. OpenAI anunciado na terça-feira reunião de especialistas Especialistas em saúde mental aconselham empresas sobre bem-estar e IA.

Apenas alguns meses após o surgimento dessas histórias, a OpenAI parece acreditar que os problemas do ChatGPT com usuários vulneráveis ​​estão sob controle. Não está claro se os usuários continuam caindo na toca do coelho paranóico com o GPT-5. Embora o GPT-4o não seja mais o padrão no ChatGPT, o modelo de IA ainda está disponível e é usado por milhares de pessoas.

A OpenAI não respondeu ao pedido de comentários do TechCrunch.

A introdução do erotismo no ChatGPT é um território desconhecido para o OpenAI, levantando preocupações mais amplas sobre como os usuários vulneráveis ​​irão interagir com o novo recurso. Altman afirma que o OpenAI não está “maximizando o uso” ou otimizando o engajamento, mas tornar o ChatGPT mais erótico certamente poderia atrair usuários.

Permitir que os chatbots se envolvam em dramatizações românticas ou eróticas tem sido uma estratégia de envolvimento eficaz para outros fornecedores de chatbots de IA, como Character.AI. A empresa tem dezenas de milhões de usuários, muitos dos quais usam chatbots com frequência. Character.AI estima que em 2023, os usuários gastarão em média 2 horas por dia Estou conversando com um chatbot. A empresa também enfrentando um processo Sobre como lidar com usuários vulneráveis.

A OpenAI está sob pressão para aumentar sua base de usuários. Embora o ChatGPT já seja usado por 800 milhões de usuários ativos semanais, a OpenAI está competindo com o Google e o Meta para construir produtos de consumo baseados em IA que serão adotados em massa. A empresa também arrecadou bilhões de dólares para construir infraestrutura histórica, um investimento que a OpenAI eventualmente precisará reembolsar.

Embora existam adultos Definitivamente, você pode ter um relacionamento romântico com um chatbot de IAtambém é muito popular entre os menores. De acordo com um novo relatório do Centro para Democracia e Tecnologia, 19% dos estudantes do ensino médio Você já teve um relacionamento romântico com um chatbot de IA ou conhece um amigo que já teve um?

Altman diz que a OpenAI em breve permitirá erotismo para “adultos verificados”. Não está claro se a empresa contará com um sistema de previsão de idade ou alguma outra abordagem para restringir os recursos eróticos do ChatGPT por idade. Também não está claro se a OpenAI estenderá o erotismo às suas ferramentas de geração de áudio, imagem e vídeo de IA.

Altman afirma que a OpenAI está tornando o ChatGPT mais amigável e erótico devido ao princípio da empresa de “tratar usuários adultos como adultos”. No ano passado, OpenAI Uma estratégia de moderação de conteúdo mais permissiva Com o ChatGPT, seu chatbot será mais tolerante e terá menos rejeições. Em fevereiro, a OpenAI prometeu expressar mais opiniões políticas no ChatGPT e, em março, a empresa atualizou o ChatGPT para Imagens de símbolos de ódio geradas por IA.

Essas políticas parecem ser uma tentativa de tornar as respostas do ChatGPT mais populares entre vários usuários. No entanto, os usuários vulneráveis ​​do ChatGPT podem se beneficiar de salvaguardas que limitam o que os chatbots podem interagir. À medida que a OpenAI avança rumo a mil milhões de utilizadores ativos semanais, a tensão entre o crescimento e a proteção dos utilizadores vulneráveis ​​poderá tornar-se ainda mais intensa.