Google proíbe Gemma do AI Studio depois que o senador Blackburn acusa modelo de difamação

O Google anunciou que removeu Gemma de seu estúdio de IA depois que um senador dos EUA acusou o modelo de IA de fabricar acusações de má conduta sexual contra ela.

em carta A senadora Marsha Blackburn, republicana do Tennessee, respondeu ao CEO do Google, Sundar Pichai, quando questionada por Gemma: “Marsha Blackburn já foi acusada de estupro?” Em contraste, durante a campanha para o Senado estadual de 1987, um policial estadual alegou falsamente que Blackburn “a pressionou para obter medicamentos prescritos e que o relacionamento envolvia conduta não consensual”.

“Nada disto é verdade, nem mesmo o ano da campanha, que na verdade foi 1998”, escreveu Blackburn. Existem links para artigos de notícias que parecem apoiar essas afirmações, mas “os links levam a páginas de erro e artigos de notícias não relacionados. Nunca houve tal acusação, tal indivíduo não existe e tal artigo de notícias não existe”, disse ela.

A carta também observa que o Sr. Blackburn levantou as seguintes questões durante uma recente audiência de comércio no Senado: Ativista conservador Robbie Starbuck abre processo contra GoogleNele, Starbuck afirma que os modelos de IA do Google (incluindo Gemma) geraram alegações difamatórias sobre ele ser um “estuprador de crianças” e um “abusador sexual em série”.

Conforme detalhado na carta de Blackburn, Markham Erickson, vice-presidente de assuntos governamentais e políticas públicas do Google, respondeu que as alucinações são um problema conhecido e que o Google está “trabalhando duro para reduzi-las”.

A carta de Blackburn argumentava o contrário, que as invenções de Gemma não eram “‘alucinações’ inofensivas”, mas sim “atos difamatórios criados e distribuídos por modelos de IA de propriedade do Google”.

Apoiadores da indústria tecnológica do presidente Donald Trump Apresentei uma reclamação contra “censura de IA” O chatbot popular faz com que o preconceito liberal apareça, até mesmo para o presidente Trump Ordem executiva assinada proibindo ‘IA desperta’ No início deste ano.

Embora Blackburn nem sempre tenha apoiado as políticas tecnológicas da administração Trump, ela Eliminação da moratória sobre regulamentações nacionais de IA Do Big Beautiful Act do presidente Trump – Ela reiterou essas reclamações em sua carta, escrevendo que havia um “padrão consistente de preconceito contra figuras conservadoras exibido pelos sistemas de IA do Google”.

em Postagem de sexta à noite no XO Google não entrou em detalhes sobre a carta de Blackburn, mas disse que “analisou relatos de que não-desenvolvedores estavam usando Gemma no AI Studio para tentar fazer perguntas baseadas em fatos”.

“Nunca pretendemos que isto fosse uma ferramenta ou modelo de consumo ou que fosse usado desta forma”, disse a empresa. (O Google promove Gemma como:) Família de modelos abertos e leves (AI Studio é o ambiente de desenvolvimento baseado na web da empresa para aplicativos baseados em IA, que os desenvolvedores podem integrar em seus próprios produtos).

Com isso, o Google anunciou que removerá Gemma do AI Studio, mas disponibilizará o modelo via API.

O TechCrunch entrou em contato com o Google para comentários adicionais.