Bill da Califórnia que regula a IA Companion Chatbots está se aproximando da lei

A Califórnia deu um grande passo para regular a IA. SB 243 – O projeto de lei que regulamenta os chatbots da IA ​​para proteger menores e usuários vulneráveis ​​aprovou o Legislativo estadual e o Senado com apoio bipartidário e se dirigiu à mesa do governador Gavin Newsom.

O Newsom deve rejeitar o projeto ou assinar a lei até 12 de outubro. Se ele assinar, ele entrará em vigor em 1º de janeiro de 2026, tornando -o o primeiro estado que exige que os operadores de chatbot da IA ​​implementem protocolos de segurança da AI Companion e responsabilizem os chatbots se não cumprirem esses padrões.

O projeto de lei visa especificamente impedir chatbots de companheiros que definem a lei como um sistema de IA que pode fornecer respostas adaptativas e humanas, pois fornece respostas adaptativas e semelhantes a seres humanos e atende às necessidades sociais dos usuários, pois se envolve em conversas sobre pensamentos suicidas, munição e conteúdo sexualmente explícito. A conta exige que a plataforma forneça alertas repetidos aos usuários – a cada três horas de menores – lembra que eles estão conversando com a IA Chatbots, em vez de pessoas reais, e que devem fazer uma pausa. Ele também estabelece requisitos anuais de relatórios e transparência para empresas de IA que oferecem chatbots complementares, incluindo os principais players openai, personagem.ai e replika, que entrarão em vigor em 1º de julho de 2027.

O projeto de lei da Califórnia também permite que indivíduos que acreditam que estão feridos em uma violação de registrar ações judiciais contra empresas de IA que buscam alívio cautelar, danos (até US $ 1.000 por violação) e honorários advocatícios.

O projeto ganhou impulso na legislatura da Califórnia. A morte do adolescente Adam LaneEle cometeu suicídio após uma longa conversa com o ChatGPT do Openai, que envolve discutir e planejar sua morte e auto-mutilação. A lei responde a vazamentos Documentos internos Ele indicou que os chatbots da Meta foram autorizados a se envolver em bate -papos “românticos” e “sensuais” com crianças.

Nas últimas semanas, os legisladores e reguladores dos EUA responderam com proteções intensificantes nas plataformas de IA para proteger menores. Comissão Federal de Comércio Estamos nos preparando para investigar como os chatbots da IA ​​afetam a saúde mental das crianças. Procurador -geral do Texas, Ken Paxton, tem A investigação começou Condenamos a meta e os personagens de crianças que enganam suas reivindicações de saúde mental. Por outro lado, ambos Senador Josh Hawley (R-Mo) Senador Ed Markey (D-Ma) lançou sondas individuais em meta.

“Acho que o dano é potencialmente significativo. Isso significa que temos que nos mover rapidamente”, disse Padilla ao TechCrunch. “Podemos colocar medidas de proteção razoáveis, especialmente para garantir que os menores saibam que não estão conversando com pessoas reais. Essas plataformas conectam as pessoas aos recursos certos e garantir que não haja exposição inadequada a materiais inadequados quando dizem coisas como as pessoas estão pensando que estão se machucando ou sofrendo”.

Padilla também destacou a importância de as empresas de IA compartilharem dados sobre o número de vezes que os usuários se referem aos serviços de crise a cada ano.

O SB 243 costumava ter requisitos mais fortes, mas muitos foram derrotados através de modificações. Por exemplo, a fatura originalmente exigia que os operadores impedissem a AI Chatbots de usar táticas “variáveis ​​recompensas” ou outros recursos que promovam o engajamento excessivo. Essas táticas usadas por empresas de companheiras de IA, como Replika e personagem, fornecem aos usuários a capacidade de desbloquear mensagens, memórias, histórias ou respostas incomuns ou novas personalidades, criando o que os críticos chamam de um loop de recompensa potencialmente viciante.

O projeto de lei atual também remove as disposições que exigem que os operadores rastreem e relatem operadores na frequência do início de pensamentos suicidas ou discussões de comportamento com os usuários.

“Acho que isso ficará impressionado com o equilíbrio certo de alcançar danos sem impor o que é tecnicamente impossível ou muita papelada para qualquer coisa”, disse Becker ao TechCrunch.

O SB 243 se move para se tornar lei quando as empresas do Vale do Silício estão derramando Million Dollar AI O Comitê de Ação Política (PAC) apóia os candidatos nas próximas eleições de médio prazo que apóiam as abordagens de luz do regulamento da IA.

Além disso, o projeto de lei volta, pois a Califórnia está considerando outra conta de segurança da IA. SB 53exige requisitos abrangentes de relatórios de transparência. O Openai escreveu uma carta aberta ao governador Newsom, pedindo que o projeto seja abandonado em favor de uma estrutura federal e internacional menos rigorosa. Principais empresas de tecnologia como Meta, Google e Amazon também se opõem ao SB 53. Em contraste, A humanidade diz que apóia o SB 53.

“Esta é uma situação de soma zero e rejeita a suposição de que a inovação e a regulamentação são mutuamente exclusivas”, disse Padilla. “Não diga que não podemos andar e mastigar chicletes. Somos saudáveis ​​e podemos apoiar a inovação e o desenvolvimento que achamos que têm benefícios. E essa tecnologia claramente tem benefícios. Ao mesmo tempo, ela pode fornecer proteções razoáveis ​​aos mais vulneráveis”.

“Estamos monitorando de perto as perspectivas legislativas e regulatórias. Quando começamos a considerar a legislação para esse espaço emergente, bem -vindo ao trabalho com reguladores e legisladores”, diz o personagem.

Um porta -voz da Meta se recusou a comentar.

O TechCrunch entrou em contato com o Openai, Humanity, Replika para comentários.