EUFoi minha camisa azul, presente da minha cunhada, que deu tudo. Isso me fez pensar no humilde burocrata Yakov Petrovich Golyadkin do romance O Duplo, de Fyodor Dostoiévski, um estudo perturbador do eu fragmentado dentro de um sistema feudal vasto e impessoal.
Tudo começou com uma mensagem de um respeitado colega me parabenizando por uma videoconferência sobre algum tema geopolítico. Quando cliquei no link do YouTube em anexo para lembrar o que disse, comecei a me preocupar porque minha memória não era mais o que costumava ser. Quando gravei esse vídeo? Em poucos minutos eu sabia que algo estava errado. Não porque eu encontrasse falhas no que estava dizendo, mas porque percebi que o vídeo me mostrava na mesa do meu escritório em Atenas, vestindo a mesma camisa azul que nunca havia saído da minha ilha natal. Acontece que era um vídeo apresentando alguns dos meus sósias de IA deepfake.
Desde então, centenas de vídeos com meu rosto e minha voz se espalharam pelo YouTube e pelas redes sociais. Ainda neste fim de semana surgiu outro recorte me retratando dizendo coisas imaginárias sobre o golpe na Venezuela. Eles dão palestras, falam coisas que eu poderia dizer, às vezes misturam coisas que eu nunca diria. Eles se enfurecem, eles pregam. Alguns são grosseiros, outros perturbadoramente inspiradores. Os apoiadores os enviam para mim, perguntando: “Yannis, você realmente disse isso?” Os oponentes divulgam isso como prova da minha estupidez. O pior é que algumas pessoas argumentam que meu sósia é mais franco e assertivo do que eu. E assim me encontro na estranha posição de ser um espectador, um fantasma, do meu boneco digital. máquina tecnofudal Há muito que defendo que não está apenas quebrado, mas concebido para ser anulado.
Minha reação inicial foi escrever cartas ao Google, Meta e outros exigindo que removessem esses vídeos. Anteriormente, vários formulários foram preenchidos com raiva, depois de uma semana ou mais, alguns desses canais e vídeos foram removidos, apenas para ressurgirem imediatamente em diferentes formas. Em poucos dias eu desisti: não importa o que eu fizesse, não importa quantas horas eu passasse todos os dias, excluindo meus sósias de IA para tentar a sorte nas grandes tecnologias, muitos mais voltariam a evoluir como Hydra.
Logo, a raiva deu lugar à contemplação. Afinal, o que eu não era? quem argumentou Que a grande tecnologia não apenas digitalizou o capitalismo, mas realmente liderou uma grande transformação, transformando os mercados em feudos de nuvem e os lucros em rendas de nuvem? Os meus sósias da IA não são a confirmação perfeita de que, nesta realidade tecno-feudal, O homem liberal está morto e enterrado,
Reconhecendo uma perda parcial da autopropriedade, procurei consolo na racionalização destes deepfakes como o derradeiro acto de cercamento feudal, prova de que sob o tecnofeudalismo não possuímos nada – nem a produção de dados do nosso trabalho, nem os nossos gráficos sociais e agora nem mesmo as nossas identidades audiovisuais. Os nossos novos mestres vêem-nos como inquilinos na sua terra das nuvens, andróides cuja semelhança podem usar para semear a confusão, o discurso sujo, para abafar o desacordo genuíno numa cacofonia de ruído sintético criada para esse efeito.
Mas então me veio à mente um pensamento agradável que me lembrou a antiga Atenas. E se meus doppelgangers de IA fossem os arautos disso isegoria (ἰσηγορία), um princípio tão brilhante, promissor e ausente quanto a democracia real? Quando pedi a várias versões de chatbots de IA para defini-lo, todos eles obedientemente deturparam o seu significado, definindo isegoria Como igualdade de expressão, ou o direito de ser ouvido, ou a liberdade de se dirigir a uma assembleia. Mas o que os atenienses queriam dizer com esta palavra? Na verdade, para eles isegoria Ou seja, completamente oposto ao de hoje.liberdade de expressão“, que eles descartariam como um direito abstrato de gritar no vazio. Para os atenienses, isso significava o direito de ter suas ideias levadas a sério, julgadas por seus méritos, independentemente de quem você é ou de quão bem você realmente as expressa.
Talvez a IA possa proteger contra deepfakes isegoria Das garras da nossa distopia tecnofeudal? Quando percebemos que é impossível verificar quem está falando num vídeo do YouTube, poderemos ser forçados a avaliar os méritos do que está sendo dito, em vez de quem está dizendo isso? No processo de minar a autenticidade, as grandes tecnologias podem ter inadvertidamente cedido alguns isegoria Uma chance? Estas questões deram origem a um raio de esperança.
Havia esperança de que o espectro da democracia ainda pairasse sobre as nossas cabeças se pudéssemos encontrar a motivação para nos envolvermos no trabalho lento, árduo e democrático que o feed algorítmico foi concebido para eliminar: a avaliação crítica das ideias e argumentos que nos são lançados. Infelizmente, esta esperança, embora tangível, é inadequada enquanto os nossos senhores feudais tecnológicos mantiverem duas enormes vantagens assimétricas.
Em primeiro lugar, eles são os donos Agora Eles próprios – servidores, feeds, meios algorítmicos de comunicação. Eles podem tornar seu discurso autêntico com selos digitais enquanto afogam nosso discurso em um pântano de dúvidas e ruídos. resultado? Não isegoria, Mas um direito divino digital onde a verdade é propriedade patenteada do poder.
Em segundo lugar, e de forma mais inteligente, eles não precisam de deepfakes para governar. sua ideologia está embutido em Máquina:poder para fazer extrair mais-valia A lógica de extrair rendas da nuvem dos capitalistas vassalos nas suas plataformas, dos proletários ligados à nuvem através de vários dispositivos digitais, a tirania do valor accionista, o seu sucesso iminente privatização do dinheiro,
Portanto, nosso trabalho não é implorar validação a esses senhores. Nosso trabalho é político. Devemos socializar o capital da nuvem, a nova força todo-poderosa que está a transformar a sociedade e a destruir tudo o que torna o humanismo imaginável.
Até então, deixe nossos sósias digitais falarem. Talvez eles saciem tanto o espetáculo que eventualmente pararemos de ouvir nossa voz e comece a julgar Discussão Nos seus próprios termos. Esta é talvez a esperança mais contraditória na sala dos espelhos. Mas neste carnaval podemos agarrar cada peça.
