CháA especialista em ética em IA, Eleanor Dredge, acredita que, para avançar com a inteligência artificial, os humanos precisam reconhecer a “humanidade” da IA. Ele quer dizer que, embora muitas vezes falemos sobre IA como se fosse algo misterioso e sem forma, ela é o produto de horas de trabalho humano em minas de silício e quartzo, fábricas de microchips e centros de rotulagem de dados. Se os cidadãos quiserem arrancar o poder às empresas tecnológicas que constroem IA, será útil compreender claramente o que elas nos estão a vender. Significa também ver isso através do marketing e da promoção: “A nuvem”, aquele lugar obscuro e distante onde suas fotos são armazenadas, é apenas o computador de outra pessoa; A “alucinação” da IA é um erro de sistema ou erro de rotulagem de dados; Inteligência é um termo muito amplo – e potencialmente enganoso.
A história no Vale do Silício é que a IA ou nos salvará, inaugurando uma nova era de prosperidade e longevidade humana, ou nos destruirá a todos. Drèze argumenta, de forma convincente, que a grande tecnologia não pode cumprir as suas promessas utópicas enquanto continuar a perseguir o lucro e o poder acima de tudo, e enquanto servir os interesses de poucos. Entretanto, a obsessão cultural com o apocalipse induzido pela IA desvia facilmente a atenção das conversas práticas sobre como tornar a IA mais segura – garantindo que os cidadãos tenham mais poder sobre a forma como a sua informação é utilizada e como os modelos de IA são treinados e regulamentados, por exemplo. A visão apocalíptica dos titãs da tecnologia também cria a falsa impressão de que a segurança da IA é mais importante do que as alterações climáticas, as tensões geopolíticas e a desigualdade, três problemas que já estão a causar grande sofrimento e que, se abordados, também reduziriam muitos dos riscos associados à IA.
Dredge, professor assistente de pesquisa no Centro Leverhulme para o Futuro da Inteligência da Universidade de Cambridge, conduziu uma pesquisa que refuta os processos de recrutamento baseados em IA e destaca os perigos de incorporar a IA na aplicação da lei. Muitas de suas críticas às grandes tecnologias soarão familiares: que os algoritmos de IA perpetuam e reforçam preconceitos pré-existentes; Apesar de todas as suas promessas insípidas e genéricas de serem “transparentes” e “responsáveis”, os gigantes da tecnologia tornaram-se demasiado grandes para se preocuparem com a ética; Um punhado de funcionários adquiriu demasiado poder; E que a implementação da IA está a acontecer sem o nosso consentimento e sem considerar a saúde planetária. Mas os seus escritos têm valor intelectual, e as suas explorações filosóficas sobre, por exemplo, como definimos inteligência e porque é que ela é importante, são muito interessantes.
Às vezes, porém, os argumentos de Dredge tornam-se precipitados e complicados. “É apenas uma ilusão que a força de trabalho esteja a desaparecer: o trabalho está simplesmente a passar dos artistas para os rotuladores de dados e dos profissionais de marketing para os engenheiros”, escreve ela a certa altura. Mas não está claro se os artistas e “profissionais de marketing” se tornarão redundantes na próxima era da IA. Não é como se os rotuladores de dados que trabalham por salários de pobreza no Quénia fossem artistas há 10 anos. Da mesma forma, dada a devida importância que ela atribui à promoção da diversidade na IA, é decepcionante que ela rejeite o preconceito inconsciente como “apenas outra forma de assumir a perspectiva do perpetrador e não do destinatário do dano”, como se a intenção fosse completamente irrelevante. Ela escreve que embora as pessoas estejam prontas para conversas “menos silenciosas” sobre igualdade, eu acrescentaria que essas conversas também exigem precisão e nuances.
O título do livro sugere que Dredge deseja apresentar uma visão alternativa do que poderia ser a IA. Ela dá alguns exemplos do tipo de projetos éticos de IA baseados na comunidade que ela acredita que deveriam substituir os grandes produtos tecnológicos de cima para baixo, e muitos deles são estranhamente fracos. Isso inclui um aplicativo chamado Mumkin, projetado para facilitar conversas difíceis sobre a mutilação genital feminina (MGF) na Índia, e Kuini, um chatbot de IA projetado para ajudar mulheres Māori a parar de fumar. Em ambos os casos, perguntei-me qual o valor que a IA traz a estes esforços – especialmente tendo em conta a discussão que a Dredge teve sobre o seu impacto ambiental e as cadeias de abastecimento exploradoras. Um aplicativo é mais eficaz do que treinar membros da comunidade para atuarem como mentores ou financiar grupos de apoio e trabalhadores de apoio de pares?
Dredge descreve o kit de ferramentas que ele co-projetou para ajudar as empresas de IA a agir de forma ética e cumprir os regulamentos da UE como uma “pedra angular do utopismo”, pois se concentra em como a IA é criada e criada. Na sua opinião, a utopia não é um destino, mas “um processo de trabalho conjunto para desenvolver um mundo mais justo”. Talvez não fosse razoável esperar uma visão utópica muito específica, mas ainda assim estaria interessado em saber como a IA, em particular, poderia ajudar-nos a criar um futuro melhor. Ela não menciona coisas que muitos dos maiores críticos da IA acolhem com satisfação, como a sua capacidade de melhorar a descoberta de medicamentos e a detecção de doenças. Este livro pergunta o que aconteceria se acertássemos a IA. Depois de ler isso, não posso dizer que realmente sei.
Após a promoção do boletim informativo
