Em meio a preocupações crescentes sobre o impacto da IA nos jovens, a OpenAI introduziu um recurso de “previsão de idade” no ChatGPT, projetado para ajudar a identificar menores e impor limites de conteúdo sensatos nas conversas.
A OpenAI tem sido fortemente criticada nos últimos anos pelo impacto que o ChatGPT tem nas crianças. alguns suicídio adolescente Como outros fornecedores de IA, a OpenAI foi criticada por permitir que o ChatGPT discutisse temas sexuais com usuários jovens. Em abril do ano passado, a empresa Forçado a lidar com bugs Isso permite que os chatbots gerem erotismo para usuários menores de 18 anos.
A empresa já vem trabalhando na questão dos usuários menores de idade há algum tempo, e o novo recurso de “previsão de idade” apenas aumenta as proteções que já possui. OpenAI diz que o novo recurso aproveita algoritmos de IA que avaliam contas de usuários em busca de certos “sinais comportamentais e de nível de conta” para identificar usuários mais jovens. em uma postagem de blog Terça-feira.
A empresa diz que esses “sinais” incluem coisas como a idade declarada do usuário, há quanto tempo a conta existe e quando a conta normalmente está ativa. A empresa já implementou filtros de conteúdo projetados para eliminar discussões sobre sexo, violência e outros tópicos potencialmente problemáticos para usuários menores de 18 anos. Se nosso mecanismo de previsão de idade identificar sua conta como menor de 18 anos, esses filtros serão aplicados automaticamente.
Se um usuário for erroneamente designado como menor, existe uma maneira de restabelecer uma conta “adulta”. A OpenAI diz que pode enviar selfies para Persona, parceiro de verificação de identidade da OpenAI.
