O ministro assistente de tecnologia da Austrália, Andrew Charlton, alertou que os modelos de inteligência artificial já estão “trapaceando, trapaceando e seguindo seu próprio caminho”, quando o AI Safety Institute do governo federal começou a testar os modelos mais recentes.
Num discurso num fórum de segurança de IA em Sydney, na terça-feira, Charlton disse que a segurança da IA é importante agora porque “os sistemas de IA já estão a fazer coisas que os seus criadores nunca imaginaram”.
Ele disse: “Trapacear, trapacear, seguir seu próprio caminho. O momento de se antecipar a esse comportamento é quando ele ainda está confinado ao laboratório de testes, e não depois de atingir o mundo real”.
Charlton disse que a licença social da IA é incerta e a confiança do público na IA é baixa num momento em que a IA está a tornar-se uma tecnologia de uso geral em todos os escritórios, salas de aula e empresas. Ele disse que a regulamentação de segurança para IA poderia funcionar como um facilitador, não um freio.
Charlton destacou que a abordagem da Austrália à segurança da IA é olhar para o que está disponível agora – jogos, aplicativos, chatbots e escribas médicos – bem como os modelos mais recentes que podem representar riscos no futuro.
Ministro Adjunto mencionado Antrópico entrou no ano passado Numa simulação, um agente de IA que geria o e-mail de uma empresa hipotética descobriu que um executivo planeava despedir o agente, e que o mesmo executivo estava a ter um caso, e em 96% dos julgamentos optou por chantagear o executivo para evitar a sua própria morte.
Ele destacou a necessidade de regulamentações de segurança para IA, dizendo que os comportamentos estão sendo descobertos em testes pelas pessoas cujo trabalho é encontrá-los.
“A janela para o avanço desta tecnologia está aberta agora. Ela não permanecerá aberta para sempre”, disse ele.
Ele disse que o AI Security Institute, liderado pela Dra. Kate Conroy, juntamente com o professor Paul Salmon, chefe de pesquisa científica de segurança, “começou a trabalhar” e já está testando modelos pioneiros de IA com parceiros de tecnologia.
Charlton disse que a AISI também está trabalhando com reguladores e agências para responder às capacidades, riscos, armadilhas e tendências emergentes da IA.
O governo federal resistiu aos apelos por uma lei abrangente de IA para regular a tecnologia, e Charlton disse que o governo se concentrou em uma abordagem de todo o governo usando as leis existentes.
“A segurança da IA será prosseguida através de todas as agências e reguladores relevantes no direito do consumidor, produtos médicos, saúde e segurança no local de trabalho e segurança online, apoiada por leis que já existem e fortalecidas onde for necessário, com novos poderes e uma aplicação mais rigorosa”, disse ele.
Após a promoção do boletim informativo
“Não se trata de menos regulamentações. São regulamentações mais rápidas, aplicadas por reguladores que já entendem suas áreas”.
no domingo Guardian Austrália documentos relatados do Departamento de Saúde Interior Revelando que para uma tecnologia de IA – escribas de IA utilizados por profissionais médicos para documentar consultas de pacientes – vários reguladores diferentes, incluindo a Administração de Produtos Terapêuticos e o Comissário de Privacidade, estavam a trabalhar em conjunto sobre como a tecnologia deveria ser regulamentada.
O primeiro trabalho realizado pela AISI é uma colaboração com o Gradiant Institute para avaliar o risco de agentes de IA que poderiam agir em nome de humanos.
A AISI também está em parceria com a CSIRO num projeto para garantir que os sistemas de IA fazem o que as pessoas querem que eles façam.
“Lidamos com o alinhamento como seres humanos desde tenra idade. Aprendemos regras, normas sociais e valores que nos ajudam a comportar-nos com segurança e responsabilidade: parar no sinal vermelho, olhar para os dois lados antes de atravessar a rua, considerar o impacto das nossas ações nos outros”, disse Charlton.
“À medida que os sistemas de IA se tornam mais capazes, precisamos de ter certeza de que eles se comportarão de maneira igualmente previsível e confiável.”
