CháNaquele verão, me vi lutando contra o trânsito nas ruas sufocantes de Marselha. Num cruzamento, meu amigo sentado no banco do passageiro me pediu para virar à direita em direção a um lugar famoso pela sopa de peixe. Mas o aplicativo de navegação Waze nos orientou a seguir em frente. Cansado e com vontade de fazer uma sauna sobre rodas Renault, segui o conselho do Waze. Alguns momentos depois, ficamos presos em um canteiro de obras.
Talvez um simples momento. Mas isso talvez capte a questão definidora da nossa era, em que a tecnologia afecta quase todos os aspectos das nossas vidas: em quem confiamos mais – nos outros humanos e nos nossos próprios instintos, ou na máquina?
Filósofo alemão Immanuel Kant definiu famosamente o iluminismo Como “a saída do homem da sua imaturidade autoimposta”. A imaturidade, escreveu ele, “é a incapacidade de usar o próprio entendimento sem a orientação de outra pessoa”. Durante séculos, esse “outro” que dirigiu o pensamento e a vida humana foi muitas vezes o sacerdote, o rei ou o senhor feudal – que afirmava agir como a voz de Deus na terra. Ao tentar compreender os fenómenos naturais – porque é que os vulcões entram em erupção, porque é que as estações mudam – os humanos recorrem a Deus em busca de respostas. Na formação do mundo social, da economia ao amor, a religião serviu de guia.
Kant argumentou que os humanos sempre têm a capacidade de raciocinar. Ele nem sempre teve confiança para usá-lo. Mas com a Revolução Americana e mais tarde a Francesa, uma nova era estava a nascer: a razão substituiria a fé, e a mente humana, libertada da autoridade, tornar-se-ia o motor do progresso e de um mundo mais moral. ,o sapador escutaOu “Tenham a coragem de usar o seu entendimento!”, Kant exortou seus contemporâneos.
Depois de dois séculos e meio, poderemos perguntar-nos se estaremos silenciosamente a regressar à imaturidade. Uma coisa é um aplicativo nos dizer qual caminho seguir. Mas a inteligência artificial ameaça tornar-se o nosso novo “outro” – uma autoridade silenciosa que orienta os nossos pensamentos e ações. Corremos o risco de perder a coragem arduamente conquistada para pensar por nós próprios – e desta vez, não em deuses ou reis, mas em códigos.
O ChatGPT foi lançado há apenas três anos e uma pesquisa global publicada em abril descobriu que 82% dos entrevistados usaram IA Nos últimos seis meses. Seja para decidir se terminam um relacionamento ou em quem votar, as pessoas recorrem às máquinas em busca de conselhos. De acordo com OpenAI, 73% dos usuários indicam Preocupe-se com tópicos não relacionados ao trabalhoO que é ainda mais interessante do que nossa confiança no julgamento da IA na vida diária é o que acontece quando deixamos que ela fale por nós. Escrever é agora um dos usos mais comuns do ChatGPAT, perdendo apenas para solicitações práticas, como DIY ou conselhos de culinária, escritor americano Joan Didion disse uma vez: “Escrevo apenas para saber o que estou pensando.” O que acontece quando paramos de escrever? Devemos parar de descobrir?
É preocupante que algumas evidências sugerem que a resposta pode ser sim. Um estudo do Instituto de Tecnologia de Massachusetts usou eletroencefalografia (EEG) para monitorar atividade cerebral de redatores Com acesso à IA, mecanismos de busca como o Google ou nada. Aqueles que podiam confiar na IA mostraram a atividade cognitiva mais baixa e tiveram dificuldade para citar seu trabalho com precisão. Talvez o mais preocupante seja que, ao longo de alguns meses, os participantes do grupo de IA tornaram-se cada vez mais preguiçosos e começaram a copiar blocos inteiros de texto em suas redações.
O estudo é curto e incompleto, mas Kant pode ter reconhecido o padrão. “A preguiça e a covardia”, escreveu ele, “são as razões pelas quais uma proporção tão grande de homens… permanece na imaturidade ao longo da vida, e porque é tão fácil para os outros se estabelecerem como seus protetores. É tão fácil ser imaturo.”
É claro que o apelo da IA reside na sua conveniência. Economiza tempo, poupa esforço e – o que é mais importante – proporciona uma nova forma de aliviar responsabilidades. No seu livro de 1941, Escape from Freedom, o psicanalista alemão Erich Fromm argumentou que a ascensão do fascismo poderia ser explicada em parte pelo facto de as pessoas preferirem renunciar à sua liberdade em troca da certeza tranquilizadora da subjugação. A IA oferece uma nova maneira de aliviar o fardo de pensar e tomar decisões por conta própria.
A maior atração da IA é que ela pode fazer o que nossos cérebros não conseguem fazer – vasculhar oceanos de dados e processá-los a uma velocidade sem precedentes. Afinal, sentado no carro em Marselha, foi por esse motivo que escolhi confiar na máquina em vez de no meu amigo no banco do passageiro (uma decisão que ele considerou um insulto). Com acesso a todos os dados, certamente o aplicativo deveria saber o que é melhor – ou assim pensei.
o problema é IA é uma caixa pretaProduz conhecimento, mas sem aprofundar a compreensão humana, Não sabemos realmente como a IA chega às suas conclusões – até os programadores admitem isso, Nem podemos verificar a sua lógica com base em critérios claros e objetivos, Portanto, quando seguimos os conselhos da IA, não somos guiados pela lógica, Estamos de volta ao círculo de confiança, em dúvida Pró Máquina: Em caso de dúvida, confie na máquina – este pode tornar-se o nosso princípio orientador do futuro.
A IA pode ser um aliado formidável dos humanos na investigação racional. Poderia ajudar-nos a inventar medicamentos, ou a libertar-nos de “tarefas absurdas”, ou ajudar-nos a pagar os nossos impostos – tarefas que exigem menos reflexão e produzem menos satisfação. Melhor ainda. Mas Kant e os seus contemporâneos não defenderam a razão em detrimento da fé apenas para que os humanos pudessem construir gabinetes melhores ou ter mais tempo livre. O pensamento crítico não tratava apenas de eficiência – tratava-se do exercício da liberdade e da libertação humana.
O pensamento humano é confuso e cheio de erros, mas obriga-nos a debater, a duvidar, a testar ideias uns contra os outros e a reconhecer os limites da nossa compreensão. Cria confiança individual e coletivamente. Para Kant, a prática da lógica nunca foi apenas uma questão de conhecimento; Tratava-se de permitir que as pessoas se tornassem agentes das suas próprias vidas e resistissem à dominação. Tratava-se de construir uma comunidade moral baseada num princípio partilhado de razão e debate, em vez de uma fé cega.
Com todos os benefícios que a IA tem para oferecer, o desafio é: como podemos aproveitar a sua promessa de inteligência sobre-humana sem destruir a pedra angular da razão humana, do iluminismo e da democracia liberal? Esta pode ser uma das questões definidoras do século XXI. É melhor não entregá-lo à máquina.
