NOVA IORQUE – Fable, um aplicativo popular para falar e rastrear livros, está mudando a forma como cria resumos personalizados para seus usuários após reclamações de que um modelo de inteligência artificial usou linguagem ofensiva.
Em uma postagem no Instagram esta semana, Chris Gallello, chefe de produto da Fable, abordou o problema dos resumos gerados por IA no aplicativo, dizendo que Fable começou a receber reclamações sobre “linguagem racista muito preconceituosa, e isso foi chocante para nós”.
Ele não deu exemplos, mas aparentemente estava se referindo ao resumo de pelo menos um leitor de Fable postado como uma captura de tela no Threads, que resumia as escolhas de livros que a leitora, Tiana Trammell, havia feito, dizendo: “Sua jornada mergulha profundamente no coração de Narrativas negras e contos transformadores, deixando as histórias convencionais sem fôlego. Não se esqueça de aparecer para algum autor branco ocasional, ok?”.
Fable respondeu em um comentário abaixo da postagem, dizendo que uma equipe trabalharia para resolver o problema. Na sua declaração mais longa no Instagram, Gallello disse que a empresa introduziria salvaguardas.
Isso incluía divulgações de que os resumos foram gerados por inteligência artificial, a capacidade de desativá-los e um botão de polegar para baixo que alertaria o aplicativo sobre um problema potencial.
Trammell, que mora em Detroit, baixou Fable em outubro de 2024 para monitorar sua leitura. Perto do Natal, ela leu livros que sugeriam resumos relacionados ao feriado. Mas pouco antes do ano novo, ela terminou três livros de autores negros.
Em 29 de dezembro, quando a Sra. Trammell viu o resumo da Fábula, ela ficou chocada.
“Pensei: ‘Isso não pode ser o que estou vendo. Claramente estou faltando alguma coisa aqui’”, disse ela em entrevista em 3 de janeiro.
Ela compartilhou o resumo com outros membros do clube do livro e no Fable, onde outros compartilharam resumos ofensivos que eles também receberam ou viram.
Foi dito a uma pessoa que lia livros sobre pessoas com deficiência que as suas escolhas “poderiam fazer com que a preguiça revirasse os olhos”. Outro disse que os livros de um leitor estavam “me fazendo pensar se você já esteve com disposição para uma perspectiva heterossexual e cis de um homem branco”.
O chefe da comunidade da Fable, Kim Marsh Allee, disse em um e-mail em 3 de janeiro que dois usuários receberam resumos “que são completamente inaceitáveis para nós como empresa e não refletem nossos valores”.
Ela disse que todos os recursos que usam IA foram removidos, incluindo resumos e leituras de final de ano, e uma nova versão do aplicativo estava sendo enviada para a app store. NYTIMES
Juntar Canal Telegram da ST e receba as últimas notícias de última hora.
