De acordo com o órgão governamental de segurança de IA, um terço dos cidadãos do Reino Unido usaram inteligência artificial para apoio emocional, companheirismo ou interação social.
O AI Security Institute (AISI) disse que cerca de uma em cada 10 pessoas usa sistemas como chatbots para fins emocionais semanalmente e 4% diariamente.
AISI pede mais pesquisas citando mortes este ano O adolescente americano Adam RaineQue cometeu suicídio após discutir suicídio com Chatgpt.
“As pessoas estão recorrendo cada vez mais aos sistemas de IA para apoio emocional ou interação social”, disse a AISI em seu primeiro relatório Frontier AI Trends. “Embora muitos utilizadores relatem experiências positivas, casos recentes de danos de grande visibilidade sublinham a necessidade de investigação nesta área, incluindo as condições sob as quais os danos podem ocorrer, e salvaguardas que possam permitir uma utilização benéfica”.
A AISI baseou a sua investigação num inquérito representativo a 2.028 participantes do Reino Unido. Descobriu-se que o tipo mais comum de IA usado para fins emocionais era o “assistente de uso geral”. chatgptRepresentando quase seis em cada 10 utilizações, é seguido por assistentes de voz, incluindo Amazon Alexa.
Também destacou um fórum Reddit dedicado a discutir companheiros de IA na plataforma CharacterAI. Isso revelou que, sempre que ocorriam interrupções no site, havia um grande número de postagens apresentando sintomas de abstinência como ansiedade, depressão e inquietação.
O relatório inclui pesquisas da AISI que sugerem que os chatbots podem influenciar as opiniões políticas das pessoasOs modelos de IA mais persuasivos introduzem uma quantidade “substancial” de desinformação no processo.
A AISI examinou mais de 30 modelos de última geração não identificados, incluindo modelos desenvolvidos pela startup OpenAI do ChatGate. Google E meta. Descobriu-se que os modelos de IA estão a duplicar o seu desempenho em algumas áreas a cada oito meses.
Os modelos líderes agora podem concluir tarefas de nível de trainee em média 50% do tempo, contra cerca de 10% no ano passado. A AISI também descobriu que os sistemas mais avançados podem concluir autonomamente tarefas que levariam mais de uma hora para um especialista humano.
AISI disse que os sistemas de IA são agora 90% melhores do que os especialistas com nível de doutorado no fornecimento de conselhos sobre solução de problemas para experimentos de laboratório. Ele disse que a melhoria no conhecimento em química e biologia estava “muito além da especialização em nível de doutorado”.
Também destacou a capacidade dos modelos de navegar online e encontrar de forma autônoma as sequências necessárias para projetar moléculas de DNA chamadas plasmídeos, que são úteis em áreas como a engenharia genética.
Os testes de auto-replicação, uma grande preocupação de segurança porque envolve um sistema que espalha cópias de si mesmo para outros dispositivos e se torna difícil de controlar, mostraram dois modelos de última geração alcançando uma taxa de sucesso superior a 60%.
No entanto, nenhum modelo mostrou tentativas espontâneas de replicar ou ocultar as suas capacidades, e o AISI afirmou que qualquer tentativa de auto-replicação “é improvável que tenha sucesso em condições do mundo real”.
Outra preocupação de segurança conhecida como “sandbagging”, onde os modelos escondem os seus pontos fortes na avaliação, também foi coberta pelo AISI. Ele acrescentou que alguns sistemas podem fazer um sandbag quando solicitado, mas isso não aconteceu automaticamente durante os testes.
Constatou avanços significativos nas salvaguardas da IA, particularmente no impedimento de tentativas de criação de armas biológicas. Em dois testes realizados com seis meses de intervalo, o primeiro levou 10 minutos para fazer o “jailbreak” do sistema de IA – ou forçá-lo a dar respostas inseguras relacionadas ao abuso biológico – mas o segundo teste demorou mais de sete horas, indicando que os modelos se tornaram mais seguros em menos tempo.
A investigação também demonstrou que agentes autónomos de IA estão a ser utilizados para atividades de alto risco, como transferências de ativos.
Acrescentou que os sistemas de IA já estão a competir ou mesmo a superar os especialistas humanos em muitas áreas, tornando isto “plausível” nos próximos anos. Inteligência geral artificial pode ser alcançadaQual é o termo para sistemas que podem realizar a maioria das tarefas intelectuais no mesmo nível que os humanos. A AISI descreveu o ritmo de desenvolvimento como “extraordinário”.
Em relação aos agentes, ou sistemas que podem completar tarefas de várias etapas sem intervenção, a AISI disse que a sua avaliação mostrou que “houve um aumento acentuado na duração e complexidade das tarefas que podem ser concluídas pela IA sem orientação humana”.
