Califórnia – OpenAI se defende contra uma ação judicial que acusa ChatGPT.
Instruindo um garoto de 16 anos a cometer suicídio
disse que o chatbot instruiu o adolescente a procurar ajuda mais de 100 vezes.
em processos judiciais 25 de novembroa startup de inteligência artificial chamou a morte do estudante do ensino médio da Califórnia Adam Lane de “tragédia” e disse: “Uma leitura completa de seu histórico de bate-papo mostra que sua morte, embora chocante, não foi causada pelo ChatGPT.”
“Nos anos anteriores ao uso do ChatGPT, ele exibiu vários fatores de risco significativos para automutilação, incluindo pensamentos e pensamentos suicidas recorrentes”, disse Lane ao chatbot, de acordo com um documento do Tribunal Superior de São Francisco.
Os advogados da OpenAI disseram que o ChatGPT orientou Raine a entrar em contato com “recursos relacionados à crise e indivíduos de confiança” mais de 100 vezes.
Nas semanas e dias antes de sua morte, Lane “disse ao ChatGPT que ela repetidamente clamava por ajuda às pessoas, incluindo pessoas em quem ela confiava em sua vida, mas foi ignorada”, de acordo com o documento.
A família de Lane processou a OpenAI e seu CEO Sam Altman em agosto por sua morte, alegando que ChatGPT a guiou durante o processo de vinculação e se ofereceu para ajudá-la a escrever uma nota de suicídio.
Em resposta à ação judicial, a empresa anunciou uma série de alterações no ChatGPT. Isso inclui controles para que os pais limitem a forma como seus filhos adolescentes usam o chatbot e recebam alertas se for determinado que seu filho adolescente pode estar angustiado.
Jay Edelson, advogado da família Lane, chamou o pedido da OpenAI de “perturbador” em um comunicado, dizendo que a empresa está “surpreendentemente tentando encontrar falhas em todos os outros, inclusive alegando que o próprio Adam violou os termos de serviço ao se envolver com o ChatGPT da maneira como ele foi programado para se comportar”.
O processo inclui reclamações por homicídio culposo, responsabilidade pelo produto e negligência. Bloomberg
