Governo da Califórnia Gavin NewsomUm democrata vetou no domingo um projeto de lei para criar salvaguardas para grandes modelos de inteligência artificial, que teria sido a primeira lei desse tipo no país.
O veto do governador representa um grande golpe nos esforços para construir cercas em torno da IA e na sua rápida evolução com pouca supervisão, de acordo com Imprensa Associada. A legislação enfrentou forte oposição de startups, gigantes da tecnologia e vários legisladores democratas.
Newsom disse à Dreamforce no início deste mês, em uma conferência anual organizada pela gigante do software Salesforce, que a Califórnia deve assumir a liderança na regulamentação da IA porque o governo federal não conseguiu implementar salvaguardas, mas a proposta “poderia ter um efeito inibidor na indústria”.
O SB 1047, disse o governador, poderia prejudicar as indústrias nacionais ao impor requisitos mais rigorosos.
Senador democrata alvo de deepfake se passando por oficial ucraniano em chamada Zoom: relatório
O governador da Califórnia, Gavin Newsom, vetou um projeto de lei para criar medidas de segurança para grandes modelos de inteligência artificial no Golden State. (Foto AP/John Bazemore)
“Embora bem-intencionado, o SB 1047 não aborda se um sistema de IA é implantado em um ambiente de alto risco, envolvendo tomada de decisões críticas ou o uso de dados confidenciais”, disse Newsom em comunicado. “Em vez disso, o projeto de lei aplica padrões rígidos até mesmo às funções mais básicas – até que um grande sistema as implemente. Não acredito que essa seja a melhor abordagem para proteger o público de ameaças reais representadas pela tecnologia”.
Em vez disso, Newsom anunciou que o estado fará parceria com vários especialistas do setor para desenvolver o sistema de segurança Modelo de IA poderoso.
O SB 1047 exigiria que as empresas testassem seus modelos e divulgassem publicamente seus protocolos de segurança para evitar que os modelos fossem usados para fins maliciosos, como, por exemplo, destruir redes elétricas de estados ou ajudar no desenvolvimento de armas químicas, cenários que especialistas dizer que pode ser perigoso. O futuro pode ser possível à medida que a indústria continua a evoluir rapidamente.
A lei fornecerá proteção de denunciantes aos trabalhadores industriais.
O senador estadual democrata Scott Weiner, autor do projeto de lei, disse que o veto foi “um golpe para todos que acreditam na supervisão de corporações gigantes que estão tomando decisões críticas que afetam a segurança e o bem-estar das pessoas e o futuro do planeta”.
“As empresas que desenvolvem sistemas avançados de IA reconhecem que os riscos que estes modelos apresentam ao público são reais e estão a crescer rapidamente”, disse ele num comunicado. “Embora os grandes laboratórios de IA tenham assumido compromissos louváveis para monitorizar e mitigar estes riscos, a verdade é que os compromissos voluntários da indústria são inexequíveis e raramente funcionam bem para o público”.
Wiener disse que o debate em torno do projeto de lei ajudou a destacar a segurança da IA e continuará a pressionar pelo avanço das salvaguardas em torno da tecnologia.
O bilionário da tecnologia Elon Musk apoiou a medida.
Newsom anunciou que, em vez de aprovar a lei, o estado fará parceria com vários especialistas da indústria para desenvolver salvaguardas para modelos poderosos de IA. (Don Campbell/The Herald-Palladium via AP)
A proposta é um dos vários projetos de lei aprovados pela legislatura estadual este ano para regulamentar a IA, combater deepfakes e proteger os trabalhadores. Os legisladores estaduais dizem que a Califórnia deve tomar medidas este ano, apontando para as consequências de não conseguir controlar as empresas de mídia social quando elas poderiam ter tido a chance.
Os defensores do projeto dizem que ele poderia introduzir alguma transparência e responsabilidade em torno dos modelos de IA em grande escala, já que os desenvolvedores e especialistas dizem que ainda não têm uma compreensão completa de como os modelos de IA se comportam.
O projeto de lei buscava abordar sistemas que exigem altos níveis de poder de computação e mais de US$ 100 milhões. Nenhum modelo atual de IA atende a esses critérios, mas alguns especialistas dizem que isso poderá mudar no próximo ano.
“É por causa do enorme aumento do investimento na indústria”, disse Daniel Cocotazlo, ex-pesquisador da OpenAI que renunciou no início deste ano devido à negligência da empresa em relação aos riscos de IA, à Associated Press. “É uma quantidade absurda de poder para qualquer empresa privada controlar incontrolavelmente, e também é incrivelmente arriscado.”
Os EUA têm ficado cada vez mais atrás da Europa na regulamentação tecnológica, levantando preocupações sobre perdas de empregos, desinformação, invasões de privacidade e preconceitos de automação, disseram os defensores da medida. O projeto de lei da Califórnia não era tão abrangente quanto a regulamentação europeia, mas os seus defensores dizem que seria um passo na direção certa.
No ano passado, várias empresas líderes em IA concordaram voluntariamente em seguir as salvaguardas estabelecidas pela Casa Branca, incluindo testes e partilha de informações sobre os seus modelos. O projeto de lei da Califórnia, segundo seus apoiadores, exigiria que os desenvolvedores de IA seguissem requisitos como essas salvaguardas.
Mas os críticos da medida argumentaram que ela prejudicaria a tecnologia e sufocaria a inovação no Golden State. A proposta desencorajaria os desenvolvedores de IA de investir em grandes modelos ou compartilhar software de código aberto, de acordo com críticos, incluindo a deputada norte-americana Nancy Pelosi, D-Calif.
Duas outras propostas de IA, que enfrentaram oposição da indústria tecnológica, não foram aprovadas antes do prazo legislativo do mês passado. O projeto de lei exigiria que os desenvolvedores de IA rotulassem o conteúdo gerado por IA e proibissem a discriminação pelas ferramentas de IA usadas para tomar decisões de emprego.
Senador do Estado da Califórnia Scott Wiener diz que a controvérsia em torno do projeto de lei ajudou a destacar a segurança da IA (Scott Wiener)
Os legisladores da Califórnia ainda estão considerando novas regras contra a discriminação da IA nas práticas de contratação.
O governador disse anteriormente que quer proteger o estatuto do estado como líder global em IA, observando que possui 32 das 50 maiores empresas de IA do mundo. Estado Dourado.
Clique aqui para obter o aplicativo Fox News
Newsom disse que a Califórnia é um dos primeiros a adotar a IA, já que o estado poderia implantar ferramentas generativas de IA em um futuro próximo para lidar com o congestionamento nas rodovias, fornecer orientação fiscal e agilizar os programas para moradores de rua.
No início deste mês, Newsom sancionou algumas das leis mais rígidas do país para combater a falsificação eleitoral e proteger os trabalhadores de Hollywood do uso não autorizado de IA.
A Associated Press contribuiu para este relatório.
