Recentemente tirei férias Na Itália. Como costuma acontecer hoje em dia, passei meu itinerário pelo GPT-5 em busca de recomendações de atrações e restaurantes. Bott relatou que a melhor opção para jantar perto de hotéis em Roma fica a uma curta caminhada pela Via Margutta. Acabou sendo uma das melhores refeições de que me lembro. Quando cheguei em casa, perguntei à modelo como ela escolheu aquele restaurante, mas hesito em revelar aqui caso precise de mesa no futuro (caramba, quem sabe se voltarei)? Babette. Por favor ligue com antecedência para fazer uma reserva. ) A resposta foi complexa e impressionante. Entre os fatores estavam ótimas críticas dos moradores locais, atenção em blogs gourmet e na imprensa italiana, e a famosa combinação de cozinha romana e moderna do restaurante. Ah, e uma curta caminhada.
Eu também precisava de algo, e isso era confiança. Tive que aceitar a ideia de que o GPT-5 era um corretor honesto e escolheria meu restaurante sem preconceitos. O restaurante não me apareceu como conteúdo patrocinado e não recebi nenhuma parte do cheque. Eu poderia ter feito uma pesquisa mais detalhada para verificar as recomendações (dei uma olhada no site), mas o objetivo de usar IA é evitar esse atrito.
Esta experiência fortaleceu a minha confiança nos resultados da IA, mas também me fez questionar. À medida que empresas como a OpenAI se tornam mais poderosas e procuram reembolsar os investidores, será que a IA é susceptível ao tipo de erosão de valor característico das aplicações tecnológicas que utilizamos hoje?
jogo de palavras
O autor e crítico de tecnologia Cory Doctorow chama essa erosão de “encitização”. Sua premissa é que plataformas como Google, Amazon, Facebook e TikTok visam inicialmente agradar os usuários, mas uma vez que derrotam seus concorrentes, tornam-se intencionalmente inúteis para gerar maiores lucros. Depois que a WIRED republicou a pesquisa pioneira de Doctorow ensaio de 2022 O termo entrou na linguagem cotidiana em relação a esse fenômeno principalmente porque as pessoas o consideraram totalmente correto. A enshittificação foi nomeada a Palavra do Ano de 2023 da American Dialect Association. Além de seus palavrões, o conceito é frequentemente citado e tem aparecido em locais que normalmente fariam ouvidos moucos a ele. Ph.D. acaba de ser publicado livro com o mesmo nome Sobre esse assunto; a imagem da capa é um emoji de…
Chatbots poderosos e agentes de IA podem ser piores do que tornar a pesquisa do Google inútil, enchendo os resultados de pesquisa da Amazon com anúncios e até mesmo fazendo com que o Facebook mostre menos conteúdo social em favor de clickbait indutor de indignação.
A IA está no caminho certo para se tornar nossa companheira constante, respondendo a muitas de nossas solicitações de uma só vez. As pessoas já contam com esta ferramenta para interpretar acontecimentos atuais e obter conselhos sobre todos os tipos de escolhas de compra e até mesmo escolhas de vida. Como os custos de criação de um modelo de IA completo são proibitivos, é razoável supor que apenas algumas empresas dominarão este campo. Todos eles planejam gastar centenas de bilhões de dólares nos próximos anos para melhorar seus modelos e colocá-los nas mãos do maior número de pessoas possível. Acho que a IA está atualmente no que Doctorow chama de estágio “bom para os usuários”. Mas a pressão para recuperar grandes investimentos de capital será imensa, especialmente para empresas com bases de utilizadores consolidadas. Essas situações, escreve Doctorow, permitem que as empresas explorem usuários e clientes empresariais para “recuperar todo o valor para si mesmas”.
Quando imaginamos o poder da IA, a primeira coisa que vem à mente é a publicidade. O pesadelo é que o modelo de IA faz recomendações com base nas empresas que pagaram taxas de referência. Embora este não seja o caso atualmente, as empresas de IA estão ativamente à procura de espaço publicitário. em entrevistas recentes“Acreditamos que provavelmente existem alguns ótimos produtos de publicidade que podemos fazer que são um benefício líquido para nossos usuários e são positivos para nosso relacionamento com nossos usuários”, disse o CEO da OpenAI, Sam Altman. Enquanto isso, a OpenAI acaba de anunciar um acordo com o Walmart para permitir que os clientes do varejista façam compras no aplicativo ChatGPT. Não consigo imaginar nenhum conflito acontecendo lá! A plataforma de pesquisa de IA Perplexity tem Resultados patrocinados Exibido em acompanhamentos claramente identificados. No entanto, promete que “estes anúncios não alteram o nosso compromisso em manter um serviço confiável que forneça respostas diretas e imparciais às suas perguntas”.
