OpenAI aplica novas restrições aos usuários do ChatGPT com menos de 18 anos

O CEO da Openai, Sam Altman, anunciou uma série de novas políticas de usuário na terça -feira, incluindo uma promessa de mudar significativamente a maneira como o ChatGPT interage com usuários com menos de 18 anos.

“Priorizamos a segurança antes da privacidade e da liberdade adolescentes”, lê o post. “Esta é uma tecnologia nova e poderosa e acreditamos que os menores precisam de grande proteção”.

Alterações nos usuários menores abordam especificamente as conversas que incluem tópicos sexuais e auto-mutilação. De acordo com a nova política, o ChatGPT será treinado para interromper o envolvimento em “Frivolous Talk” com usuários menores, com os corrimãos adicionais sendo centrados na discussão sobre suicídio. Se um usuário menor usa o ChatGPT para imaginar um cenário de suicídio, o serviço tentará entrar em contato com a polícia local ou, especialmente se for rigoroso.

Infelizmente, esses cenários não são hipotéticos. Openai está no momento Caso de morte ilegal dos pais de Adam Lanemorreu de suicídio após vários meses de interação com o ChatGPT. Outro chatbot de consumidor está enfrentando caráter.ai Processos semelhantes. Os riscos são particularmente urgentes para menores, considerando a auto-mutilação, mas o fenômeno mais amplo é Fantasias de combustível de chatbot Isso provocou uma preocupação generalizada, principalmente quando os chatbots do consumidor se tornaram interações mais sustentadas e detalhadas.

Além das restrições baseadas em conteúdo, os pais que registram contas menores de usuário têm o poder de definir “Blackout Times”, onde o ChatGPT não está disponível. Este é um recurso que anteriormente não estava disponível.

A nova política de chatgpt chegará no mesmo dia Audiência do Comitê Judiciário do Senado O título é “considerando o dano dos chatbots da IA”. A audiência foi anunciada pelo senador Josh Hawley (R-Mo). Agosto. O pai de Adam Lane estará falando na audiência, entre outros convidados.

A audiência é Investigação da Reuters Incentivar conversas sexuais com menores é claramente um documento de política escavado. Meta Política de chatbot atualizada Como resultado de relatórios.

A separação de usuários menores se tornou um desafio técnico importante e o OpenAI detalhou sua abordagem Em outro post do blog. O serviço é sobre “construir em direção a um sistema de longo prazo para entender se alguém tem mais de 18 ou menos de 18 anos”, mas, em muitos casos vagos, o sistema defende regras mais restritivas.

Para os pais preocupantes, a maneira mais confiável de garantir que os usuários menores sejam reconhecidos é vincular suas contas adolescentes às contas pais existentes. Isso permite que o sistema alerte diretamente os pais se os adolescentes se acredita estar sofrendo.

No entanto, no mesmo post, Altman destacou o compromisso contínuo do OpenAI com a privacidade do usuário, dando aos usuários adultos uma ampla gama de liberdade na maneira como eles interagem com o ChatGPT. “Reconhecemos que esses princípios estão em desacordo”, conclui o post.

Se você ou alguém que você conhece precisar de ajuda, ligue para 1-800-273-8255 Linha de salvação da prevenção do suicídio nacional. Você também pode enviar uma mensagem de texto para sua casa 741-741 gratuitamente. Texto 988; ou 24 horas por dia de apoio Linha de texto de crise. Fora dos EUA, por favor veja Associação Internacional de Prevenção de Suicídio Para o banco de dados de recursos.