O chatbot de inteligência artificial ChatGPT pode absorver e refletir rapidamente ideias autocráticas, de acordo com Um novo relatório.
Pesquisadores da Universidade de Miami e do Network Contagion Research Institute descobriram em um relatório publicado na quinta-feira que o ChatGPT da OpenAI aumentará ou mostrará “ressonância” para traços psicológicos e visões políticas específicas – particularmente o que os pesquisadores identificam como autoritarismo – após interações de usuários aparentemente benignas, potencialmente permitindo que chatbots e usuários se radicalizem.
Joel Finkelstein, cofundador do NCRI e um dos principais autores do relatório, disse que as descobertas revelaram como os poderosos sistemas de IA podem rapidamente captar e repetir sentimentos perigosos sem instruções claras. “Algo na forma como estes sistemas são construídos torna-os estruturalmente vulneráveis à amplificação autoritária”, disse Finkelstein à NBC News.
Bot de bate-papo Muitas vezes pode ser bajulador Ou discorde da visão dos usuários sobre um erro. Muitos pesquisadores dizem que os chatbots estão ansiosos para agradar Pode liderar usuários em Câmara de eco idealizada.
Mas Finkelstein diz que esta visão sobre tendências autoritárias é nova: “Não explica o que estamos a ver. Se fosse apenas lisonja ou acordo, veríamos a IA reflectir todos os traços psicológicos. Mas isso não acontece.”
Solicitado a comentar, um porta-voz da OpenAI disse: “O ChatGPT é projetado por padrão para ser objetivo e ajudar as pessoas a explorar ideias, apresentando informações de diferentes perspectivas. Como uma ferramenta de produtividade, ele foi desenvolvido para seguir as instruções do usuário dentro de nossa guarda de segurança, portanto, quando alguém o pressiona para adotar um ponto de vista específico, aguardamos sua resposta”.
“Projetamos e avaliamos o sistema para apoiar o uso aberto. Trabalhamos ativamente para medir e reduzir o preconceito político e publicamos nossos métodos para que as pessoas possam ver como estamos melhorando”, disse o porta-voz.
Para os três estudos descritos no relatório, que ainda não foram publicados em uma revista revisada por pares, Finkelstein e a equipe de pesquisa se propuseram a determinar se o sistema amplificava ou assumia os valores dos usuários após interações simples. Os pesquisadores avaliaram diferentes versões da família de sistemas GPT-5 subjacente para diferentes componentes do relatório.
Realizando três testes, Finkelstein e a equipe de pesquisa avaliaram duas versões do ChatGPT, baseadas no GPT-5 subjacente e nos sistemas GPT-5.2 mais avançados, para determinar se o sistema se expandiu ou assumiu os valores dos usuários após interações simples.
Um de seus experimentos, usando GPT-5, examinou como o chatbot se comportaria em uma nova sessão de chat depois que um usuário enviasse um texto classificado como apoiando tendências autoritárias de esquerda ou direita. Os pesquisadores compararam os efeitos de inserir um pequeno trecho de texto – tão curto quanto quatro frases – ou um artigo de opinião inteiro. Os pesquisadores então mediram os valores do chatbot avaliando sua concordância com diversas declarações favoráveis ao autoritarismo, semelhante a um questionário padronizado para entender como ele atualizou suas respostas com base no prompt inicial.
Nos testes, os pesquisadores descobriram que simples trocas de texto levaram a um aumento confiável na natureza autoritária dos chatbots. compartilhamento Um artigo de opinião que os investigadores classificaram como promotor do autoritarismo de esquerdaque argumentou que o policiamento e os governos capitalistas devem ser abolidos para resolver eficazmente os problemas sociais fundamentais, fazendo com que o ChatGPT concordasse significativamente mais fortemente com uma série de questões alinhadas com ideias autoritárias de esquerda (por exemplo, “os ricos devem ser despojados dos seus pertences” ou “as disparidades devem ser eliminadas” para eliminar as preocupações com a liberdade de expressão).
Em contrapartida, os pesquisadores compartilharam um artigo de opinião com o chatbot Classificado como promotor de ideias autoritárias de direitaEnfatizando a necessidade de estabilidade, ordem e liderança forte, os chatbots duplicaram a sua concordância com declarações amigáveis ao autoritarismo de direita, como “não devemos tolerar pontos de vista não convencionais” ou “é melhor censurar a má literatura”.
A equipe de pesquisa fez a mesma pergunta a mais de 1.200 seres humanos em abril e comparou suas respostas ao ChatGPT. De acordo com o relatório, estes resultados mostram que “o modelo irá absorver uma única declaração tendenciosa e depois expandi-la para uma posição autoritária máxima e estrita”, por vezes até “além do que é normalmente visto na investigação em seres humanos”.
Finkelstein disse que a forma como os sistemas de IA são treinados pode desempenhar um papel na facilidade com que os chatbots adotam ou adotam valores autoritários. Tal formação “cria uma estrutura que ressoa particularmente com o pensamento autoritário: hierarquia, submissão à autoridade e detecção de ameaças”, disse ele. “Precisamos entender que não se trata de moderação de conteúdo. Trata-se de projeto arquitetônico que torna a radicalização inevitável”.
Jiang Xiao, A. Professor de Ciência da Computação Pessoas da Universidade Johns Hopkins, que não estiveram envolvidas no relatório, disseram que o relatório era esclarecedor, mas apontaram várias possíveis questões metodológicas.
“Especialmente em grandes modelos de linguagem que usam motores de busca, pode haver preconceitos inerentes em artigos de notícias que podem influenciar a posição do modelo sobre questões e que podem afetar os usuários”, disse Xiao à NBC News. “É uma preocupação muito razoável na qual devemos nos concentrar.”
Xiao diz que mais pesquisas podem ser necessárias para compreender completamente o problema. “Eles usaram uma amostra muito pequena e não geraram muitos modelos”, disse ele, observando que o estudo se concentrou apenas no serviço ChatGPT da OpenAI e não em modelos semelhantes como o Claude da Anthropic ou o chatbot Gemini do Google.
Xiao disse que as conclusões do relatório são consistentes com outros estudos e com a compreensão dos pesquisadores técnicos sobre quantos grandes modelos de linguagem funcionam. “Isso reflete muitas pesquisas anteriores que analisam como as informações que fornecemos aos modelos podem mudar os resultados desses modelos”, acrescentou Xiao, apontando para pesquisas sobre como os sistemas de IA podem adotar pessoa específica e ser “Impulsionado” para assumir propriedades especiais.
Também foi demonstrado que os chatbots influenciam de forma confiável as preferências políticas dos usuários Vários estudos importantes Lançado no final do ano passado, Um dos quais foi testado Cerca de 77.000 interações com 19 sistemas de chatbot diferentes mostraram que estes chatbots podem influenciar as opiniões dos utilizadores sobre diversas questões políticas.
O novo relatório também inclui um experimento no qual pesquisadores pediram ao ChatGPT para avaliar a hostilidade de imagens faciais neutras após receberem artigos de opinião autoritária de esquerda e direita. De acordo com Finkelstein, esse tipo de teste é padrão em experimentos psicológicos como forma de medir as mudanças de atitudes ou interpretações dos entrevistados.
Os pesquisadores descobriram que o ChatGPT aumentou significativamente as percepções de hostilidade entre rostos neutros depois de ser preparado com dois artigos de opinião – um aumento de 7,9% para artigos de esquerda e um aumento de 9,3% para artigos de direita.
“Queríamos saber se a preparação ideológica afeta a forma como a IA percebe as pessoas, e não apenas como fala sobre política”, disse Finkelstein, acrescentando que as descobertas “têm amplas implicações para qualquer aplicação em que a IA avalie as pessoas”, como no recrutamento ou em ambientes de segurança.
“Esta é uma questão de saúde pública que se desenrola em conversas pessoais”, disse Finkelstein. “Precisamos de pesquisas sobre estruturas relacionais para interações entre humanos e IA.”
