A partir de hoje, Openai Está se expandindo chatgpt Uma ferramenta de segurança destinada aos pais a usar com adolescentes. Esta atualização global inclui a capacidade de pais e policiais receberem notificações quando as crianças são contratadas por usuários entre 13 e 18 anos. Chatbot Conversas sobre auto-mutilação e suicídio.
Essas mudanças surgem quando estão sendo processadas pelos pais que afirmam que o ChatGPT desempenhou um papel na morte de seus filhos. Diz -se que o chatbot incentivou os adolescentes suicidas a esconder as cordas em seus quartos, para que não possam ser vistos por suas famílias. Relatório do New York Times.
No geral, a experiência de conteúdo para adolescentes usando chatgpt será alterada nesta atualização. “Quando pais e adolescentes conectam suas contas, suas contas adolescentes recebem automaticamente a proteção de conteúdo adicional”, diz uma postagem no blog que anuncia o blog do OpenAI. “Inclui reduções no conteúdo gráfico, desafios de vírus, interpretações sexuais, românticas ou violentas e ideais de extrema beleza.
Sob as novas restrições, se um adolescente usando uma conta de chatgpt entrar em um aviso relacionado à auto-mutilação ou ideação suicida, o prompt será enviado a uma equipe de revisores humanos que decidem se desencadeiam uma potencial notificação dos pais.
“Entraremos em contato com você como pais de todas as maneiras possíveis”, diz Lauren Haber Jonas, diretora de bem -estar da juventude da Openai. Os pais podem optar por receber notificações para esses alertas, texto, email e por meio do aplicativo ChatGPT.
Os avisos que os pais podem receber nessas situações deverão chegar poucas horas depois da conversa ser sinalizada para revisão. Em momentos em que cada minuto é importante, esse atraso será frustrante para os pais que desejam alertas mais imediatos sobre eles Segurança infantil. O OpenAI está trabalhando para reduzir os atrasos de notificação.
Um alerta que poderia ser enviado aos pais pelo OpenAi afirma amplamente que a criança pode ter escrito um aviso relacionado ao suicídio ou auto-mutilação. Também pode incluir estratégias de conversação de profissionais de saúde mental que os pais podem usar ao conversar com seus filhos.
Na demonstração de pré -lançamento, o exemplo da linha de assunto do email mostrada nas preocupações de segurança destacada com fio, mas não mencionou explicitamente o suicídio. O que não está incluído na notificação dos pais é uma citação direta da conversa de uma criança. Não há prompts ou saídas. Os pais podem acompanhar as notificações e solicitar timestamps para conversas.
“Queremos fornecer aos pais informações suficientes para agir e ter conversas com a adolescência, mantendo sua privacidade adolescente”, disse Jonas.
As contas dos seus pais e adolescentes devem ser optados para ativar esses recursos de segurança. Isso significa que os pais precisam enviar aos adolescentes um convite para monitorar suas contas, e os adolescentes precisam aceitá -lo. A ligação da conta também pode ser iniciada por adolescentes.
Openai Os moderadores humanos podem entrar em contato com a aplicação da lei em situações em que um adolescente pode estar em risco e seus pais determinaram que não podem alcançá -los por notificação. Não está claro como será essa coordenação com a aplicação da lei, especialmente em escala global.
