Os fabricantes de chatbots de IA que colocam crianças em risco enfrentarão multas pesadas ou até terão os seus serviços bloqueados ao abrigo de alterações legais a serem anunciadas pelo Reino Unido. Keir Starmer Na segunda-feira.
Animado com a ex de Elon Musk Impedir que sua ferramenta Grok AI crie imagens eróticas de pessoas reais no Reino Unido Após um protesto público no mês passado, os ministros estão planejando “reprimir o vil conteúdo ilegal criado pela IA”.
Com cada vez mais crianças a utilizar chatbots para tudo, desde ajuda nos trabalhos de casa até apoio à saúde mental, o governo disse que iria “agir rapidamente para colmatar a lacuna legal e forçar todos os fornecedores de chatbots de IA a cumprir os deveres de Conteúdo Ilegal da Lei de Protecção Online ou enfrentar consequências por infringir a lei”.
Starmer também planeja acelerar novas restrições ao uso das redes sociais por crianças se os parlamentares concordarem com uma possível proibição de menores de 16 anos após uma consulta pública. Isso significa que quaisquer mudanças no uso das redes sociais pelas crianças, que poderiam incluir outras medidas como a restrição da rolagem infinita, poderiam acontecer já neste verão.
Mas os conservadores rejeitaram as alegações de que o governo estava a agir rapidamente como “mais fumaça e espelhos” porque a consulta ainda não começou.
A secretária de educação paralela, Laura Trott, disse: “Afirmar que eles estão tomando ‘ações urgentes’ simplesmente não é credível quando o chamado conselho urgente não existe.” “Os trabalhistas têm afirmado repetidamente que não têm opinião sobre se os menores de 16 anos devem ser impedidos de aceder às redes sociais. Isto não é suficiente. Estou certo de que devemos impedir que os menores de 16 anos acedam a estas plataformas.”
A medida ocorre depois que o regulador on-line Ofcom admitiu que não tinha poderes para tomar medidas contra Grok, já que imagens e vídeos criados por chatbots sem pesquisar na Internet não estão dentro do escopo das leis existentes, a menos que se enquadrem na categoria de pornografia. A mudança para trazer os chatbots de IA sob a Lei de Proteção Online pode acontecer dentro de algumas semanas, embora as falhas sejam conhecidas há mais de dois anos.
“A tecnologia está avançando muito rapidamente e a lei tem que seguir o exemplo”, disse Starmer. “A ação que tomamos em relação a Grok envia uma mensagem clara de que nenhuma plataforma merece carta branca. Hoje estamos colmatando as lacunas que colocam as crianças em risco e lançando as bases para novas ações.”
As empresas que violarem a Lei de Segurança Online poderão enfrentar penalidades de até 10% das receitas globais e os reguladores poderão recorrer aos tribunais para bloquear as suas ligações no Reino Unido.
Se os chatbots de IA forem utilizados especificamente como motores de busca, para produzir pornografia ou para operar em contextos de utilizador para utilizador, já estão abrangidos pela lei. Mas podem ser usados para criar conteúdos que incentivem as pessoas a prejudicarem-se ou a tirarem as suas vidas sem enfrentarem sanções, ou até mesmo gerarem material de abuso sexual infantil. Esta é a lacuna que o governo diz querer colmatar.
O executivo-chefe da NSPCC, Chris Sherwood, disse que os jovens estavam contatando sua linha de apoio relatando os danos causados pelos chatbots de IA e que não confiavam nas empresas de tecnologia para projetá-los com segurança.
Num caso, uma menina de 14 anos que conversou com um chatbot de IA sobre os seus hábitos alimentares e deformidades físicas recebeu informações falsas. Em outros, ele viu “jovens que se automutilam, mesmo quando recebem mais material automutilante”.
“As redes sociais trouxeram grandes benefícios aos jovens, mas também causaram grandes danos”, disse Sherwood. “A IA usará esteróides se não tomarmos cuidado.”
A OpenAI, startup de US$ 500 bilhões de São Francisco por trás do ChatGPT, um dos chatbots mais populares do Reino Unido, e a xAI, que cria a Grok, foram contatadas para comentar.
Desde que Adam Raine, da Califórnia, de 16 anos, tirou a própria vida, alega sua família, “após meses de incentivo do ChatGPT”, a OpenAI introduziu controles parentais e tecnologia de previsão de idade para restringir o acesso a conteúdo potencialmente prejudicial.
O governo também está consultando sobre como forçar as plataformas de mídia social a impossibilitar que os usuários enviem e recebam fotos nuas de crianças – uma prática que já é ilegal.
Liz Kendall, secretária de tecnologia, disse: “Não vamos esperar que as famílias tomem as medidas necessárias, por isso vamos reforçar as regras sobre os chatbots de IA e estamos a lançar as bases para que possamos agir rapidamente sobre os resultados da consulta com os jovens e nas redes sociais”.
A Fundação Molly Rose, fundada pelo pai de Molly Russell, de 14 anos, que cometeu suicídio depois de ver material prejudicial online, chamou as medidas de “um pagamento inicial bem-vindo”. Mas apelou ao primeiro-ministro para que se comprometesse com uma nova Lei de Segurança Online “que reforce a regulamentação e deixe claro que a segurança dos produtos e o bem-estar das crianças é o custo de fazer negócios no Reino Unido”.
