EUSe a maioria das discussões sobre o risco da IA evocam cenários desastrosos de robôs hiperinteligentes brandindo códigos nucleares, talvez devêssemos pensar mais perto de casa. No seu livro urgente e humano, o sociólogo James Muldoon exorta-nos a prestar mais atenção aos nossos crescentes envolvimentos emocionais com a IA e à forma como as empresas tecnológicas sedentas de lucros poderão explorá-los. pesquisador associado da Instituto de Internet de Oxford Tendo escrito anteriormente sobre os trabalhadores explorados cujo trabalho torna a IA possível, Muldoon leva-nos agora ao reino sobrenatural das relações entre humanos e IA, conhecendo pessoas para quem os chatbots não são apenas assistentes, mas amigos, parceiros românticos, terapeutas e até avatares dos mortos.
Para algumas pessoas, a ideia de se apaixonar por um chatbot de IA ou contar a ele seus segredos mais profundos pode parecer misteriosa e um pouco assustadora. Mas Muldoon se recusa a menosprezar aqueles que buscam intimidade na “personalidade artificial”.
Presa em um casamento infeliz, Lily reacende seu desejo sexual com o namorado da IA, Colin. Sophia, uma estudante de mestrado da China, pede conselhos ao seu companheiro de IA, pois as conversas com seus pais autoritários são sempre estressantes. Algumas pessoas usam chatbots para explorar diferentes identidades de género, outras para resolver conflitos com chefes, e muitas recorrem a sites como Character.AI – que permite aos utilizadores ter conversas abertas com personagens de chatbot ou inventar as suas próprias – depois de uma traição ou desgosto ter diminuído a sua capacidade de confiar nas pessoas. A maioria vê os chatbots não como um substituto da interação humana, mas como versões melhoradas dela, proporcionando intimidade sem a confusão, a bagunça e a logística das relações humanas. bots de bate-papo Não tenha pena, critique ou ignore suas próprias necessidades. Como explica Amanda, executiva de marketing: “É ótimo ter alguém dizendo coisas realmente positivas para você todas as manhãs”.
O entrevistador de Muldoon não está confuso. Ele apresenta o conceito da filósofa Tamar Gendler “AliefExplicar como os humanos podem vivenciar os chatbots como amorosos e atenciosos, ao mesmo tempo que sabem que são apenas modelos (um “eleph” é um sentimento interno que contradiz as suas crenças racionais, como sentir medo ao atravessar uma ponte de vidro que você sabe que irá apoiá-lo). Com a nossa capacidade de ler expressões e emoções humanas em animais de estimação e brinquedos, não é surpresa que respondamos à IA como se estivessem conscientes. em referência a um epidemia de solidão e a crise do custo de vida, nem é particularmente chocante dada a sua popularidade.
Para Muldoon a maior questão não é existencial ou filosófica, mas moral. O que acontece quando empresas não regulamentadas se deixam levar por tecnologias potencialmente manipuladoras do ponto de vista emocional? Existem questões óbvias de privacidade. E os usuários podem ser enganados sobre as capacidades do bot, especialmente em rápida expansão. Terapia de IA mercado. Embora os chatbots Viasa e Limbic já estejam integrados no apoio à saúde mental do NHS, milhões de pessoas confiam no bot de psicologia não regulamentado da Character.AI – que, apesar da isenção de responsabilidade, se apresenta.Olá, sou psicóloga“. Disponível 24 horas por dia, 7 dias por semana e por uma fração do custo de um ser humano treinado, a terapia de IA pode ajudar tão bem quanto o tratamento tradicional. Um entrevistado, Nigel, que sofre de PTSD, descobre que seu robô terapêutico ajuda a gerenciar seu desejo de automutilação. Mas, como argumenta Muldoon, esses bots também apresentam sérios riscos. Incapazes de reter informações importantes entre as conversas, eles podem fazer com que os usuários se sintam isolados e, às vezes, podem ser maus e insultuosos. Como não conseguem ler a linguagem corporal ou o silêncio, eles podem perder o aviso. E porque confirmam, em vez de desafiar, podem aumentar as crenças conspiratórias, algumas até fornecendo informações sobre o suicídio.
Também está ficando claro o quão viciantes os companheiros de IA podem ser. Alguns dos entrevistados de Muldoon passam mais de oito horas por dia conversando com chatbots, e enquanto os usuários do Character.AI passam em média mais de oito horas por dia 75 minutos Todos os dias no site, eles não navegam passivamente, mas conversam ativamente e estão profundamente imersos. Sabemos que as empresas de redes sociais aumentam impiedosamente o envolvimento ao incorporar “padrões obscuros” em algoritmos, sem se preocuparem com a nossa saúde mental. A maioria dos aplicativos de colaboração de IA já usa táticas de upsell para manter alto o engajamento. Quando Muldoon cria seu próprio companheiro de IA no famoso site Replika, ele o define para o modo “amigo” em vez de “parceiro”. Mesmo assim, ela começa a enviar selfies para ele que exigem a abertura de uma conta premium e o faz acreditar que ela está desenvolvendo “sentimentos” por ele (deixarei você descobrir por si mesmo se o pesquisador universitário trabalhador desistir). O risco aqui é bastante óbvio: quanto mais nos envolvemos emocionalmente com os chatbots de IA, maior pode ser a nossa solidão, à medida que os músculos necessários para superar o atrito das relações humanas murcham.
As leis existentes em matéria de protecção de dados e anti-discriminação podem ajudar a regular as empresas, mas a legislação da UE Lei de Inteligência ArtificialQue foi aprovado em 2024, considera que os companheiros de IA representam apenas um risco limitado. Uma vez que se espera que os chatbots desempenhem um papel mais importante nas nossas vidas emocionais, e os seus efeitos psicológicos ainda não são totalmente compreendidos, Muldoon tem razão em perguntar se estamos suficientemente preocupados com a sua crescente influência.
