Então, o que está acontecendo com o algoritmo do LinkedIn?

Um dia, em novembro, a estrategista de produto Michelle (nome fictício) entrou em sua conta do LinkedIn e mudou seu gênero para masculino. Ela disse ao TechCrunch que também mudou seu nome para Michael.

Ela estava participando de um experimento chamado #WearthePants. mulheres testadas A hipótese é que o novo algoritmo do LinkedIn seja tendencioso contra as mulheres.

por muitos meses LinkedIn pesado Os usuários reclamaram da queda no engajamento e nas impressões nas redes sociais voltadas para carreiras. Isto foi em resposta aos comentários de Tim Jurka, vice-presidente de engenharia da empresa. A plataforma disse em agosto: Recentemente, implementamos o LLM para apresentar conteúdo útil para nossos usuários.

Michelle, cuja identidade foi revelada pelo TechCrunch, estava cética em relação à mudança porque ela tem mais de 10.000 seguidores e escreve postagens fantasmas em nome de seu marido, que tem apenas cerca de 2.000 seguidores. No entanto, ela disse que mesmo tendo mais seguidores, ela e o marido tendem a obter aproximadamente o mesmo número de impressões de postagens.

“A única variável que importava era o gênero”, disse ela.

A fundadora Marilyn Joyner também mudou o gênero em seu perfil. Ela publica de forma consistente no LinkedIn há dois anos, mas nos últimos meses notou um declínio na visibilidade de suas postagens. “Quando mudei o gênero do meu perfil de feminino para masculino, vi um aumento de 238% nas impressões em um dia”, disse ela ao TechCrunch.

Megan Cornish relatou resultados semelhantes, juntamente com Rosie Taylor, Jessica Doyle-Mex, Abbie Nydam, Felicity Menzies, Lucy Ferguson e Imediatamente.

Linkedin disse Seus algoritmos e sistemas de IA não usam informações demográficas como idade, raça ou sexo como sinais para determinar a visibilidade de conteúdo, perfis ou postagens no feed. Além disso, “um instantâneo lado a lado de atualizações de feed exclusivas que não são totalmente representativas ou de alcance comparável não implica automaticamente tratamento injusto ou parcialidade” no feed.

Os especialistas em algoritmos sociais concordam que, embora o preconceito implícito possa estar em jogo, o sexismo explícito pode não ser o culpado.

A plataforma é uma “sinfonia complexa de algoritmos que acionam simultânea e continuamente alavancas matemáticas e sociais específicas”. Brandeis Marshallconsultor de ética de dados disse ao TechCrunch.

“Mudar a foto e o nome do perfil é apenas uma dessas medidas”, disse ela, acrescentando que o algoritmo também é influenciado, por exemplo, pela forma como os usuários consomem e interagem atualmente com outros conteúdos.

“O que não sabemos são todas as outras alavancas que este algoritmo usa para priorizar o conteúdo de uma pessoa em detrimento do conteúdo de outra. Esta é uma questão mais complexa do que as pessoas imaginam”, disse Marshall.

mano codificado

de #usar calças A experiência começou com duas empreendedoras, Cindy Gallop e Jane Evans.

Eles queriam saber se o gênero era o motivo pelo qual tantas mulheres sentiam menos engajamento, então pediram a dois homens que criassem e publicassem o mesmo conteúdo que eles. galope e evans tem um grande número de seguidores —Na época, os dois homens tinham cerca de 9.400 bens, em comparação com um total combinado de mais de 150.000.

Gallup relatou que sua postagem alcançou apenas 801 pessoas. Por outro lado, o homem que postou Exatamente o mesmo conteúdo alcançou 10.408 pessoas, mais de 100% de seus seguidores. Mais tarde, outras mulheres também aderiram. Alguns, como Joyner, que usa o LinkedIn para divulgar o seu negócio, estão preocupados.

“Eu adoraria que o LinkedIn fosse responsabilizado por qualquer preconceito que possa existir em seus algoritmos”, disse Joyner.

No entanto, o LinkedIn, como outras plataformas de pesquisa e mídia social dependentes do LLM, fornece poucos detalhes sobre como seus modelos de seleção de conteúdo foram treinados.

Marshall disse que a maioria dessas plataformas tem uma “perspectiva inerentemente branca, masculina e centrada no Ocidente embutida nelas” devido a quem treinou os modelos. pesquisadores descobriram Evidências de preconceitos humanos, como sexismo e racismo Num modelo LLM típico, o modelo é treinado em conteúdo gerado por humanos; Os seres humanos são frequentemente envolvidos diretamente após o treinamento Algo como aprendizagem por reforço.

Ainda assim, a forma como as empresas individuais implementam sistemas de IA está envolta no segredo algorítmico da caixa preta.

O LinkedIn afirma que o experimento #WearthePants não conseguiu demonstrar preconceito de gênero contra as mulheres. Na declaração de agosto de Julka, Sakshi Jain, chefe de IA responsável e governança do LinkedIn, disse: Repetido em outro post Em novembro, a empresa anunciou que seus sistemas não utilizam mais informações demográficas como sinal de visibilidade.

Em vez disso, o LinkedIn disse ao TechCrunch que está testando milhões de postagens para conectar os usuários a oportunidades. A empresa disse ao TechCrunch que usa dados demográficos apenas para testes como “para ver se as postagens de diferentes criadores competem em pé de igualdade e se a experiência de rolagem vista no feed é consistente entre os visualizadores”.

O que é popular no LinkedIn é pesquisa e ajuste o algoritmo Tente fornecer informações mais imparciais Proporcione uma experiência ao usuário.

Marshall disse que uma variável desconhecida provavelmente explica por que algumas mulheres viram um aumento nas impressões depois de mudarem o gênero do perfil para masculino. Por exemplo, participar de tendências virais pode levar a um maior envolvimento. Algumas contas não postavam há algum tempo e o algoritmo pode tê-las recompensado por suas postagens.

O tom e o estilo de escrita também podem desempenhar um papel. Por exemplo, Michelle disse que durante a semana em que postou como “Michael”, ela mudou ligeiramente o tom e escreveu em um estilo mais simples e direto, assim como fez com o marido. Nesse período, o número de impressões aumentou 200% e o número de engajamentos aumentou 27%, disse ela.

Ela concluiu que o sistema não era “obviamente sexista”, mas parecia acreditar que os estilos de comunicação comumente associados às mulheres eram “substitutos da desvalorização”.

homem estereotipado O estilo de escrita é considerado mais conciso,por outro lado, Estereótipos do estilo de escrita feminina É imaginado como algo mais suave e emocional. Quando os LLMs são treinados para promover uma escrita que esteja em conformidade com os estereótipos masculinos, trata-se de um preconceito sutil e implícito. e Como relatado anteriormenteos pesquisadores determinaram que a maioria dos LLMs está cheia deles.

Sarah Dean, professora assistente de ciência da computação na Universidade Cornell, disse que plataformas como o LinkedIn costumam usar o perfil completo do usuário, além de seu comportamento, para decidir qual conteúdo impulsionar. Isso inclui as vagas no perfil de um usuário e os tipos de conteúdo com os quais ele normalmente interage.

“Os dados demográficos de alguém podem afetar ‘ambos os lados’ do algoritmo: o que eles veem e quem vê suas postagens”, disse Dean.

O LinkedIn disse ao TechCrunch que seu sistema de IA examina centenas de sinais para determinar o que enviar a um usuário (incluindo insights do perfil, rede e atividade dessa pessoa).

“Realizamos testes contínuos para entender o que ajuda as pessoas a encontrar o conteúdo mais relevante e oportuno para suas carreiras”, disse o porta-voz. “O comportamento dos membros também molda o feed, determinando o que os usuários clicam, salvam e alteram a cada dia, bem como quais formatos eles gostam e não gostam. Esse comportamento também molda naturalmente o que eles veem no feed, juntamente com nossas atualizações.”

Chad Johnson é um profissional de vendas no LinkedIn. explicado Essa mudança reduz a prioridade de curtidas, comentários e republicações. O sistema LLM “não se preocupa mais com a frequência de postagem ou horário do dia”, escreveu Johnson no post. “O que importa é se a sua escrita demonstra compreensão, clareza e valor.”

Tudo isso torna difícil determinar a verdadeira causa dos resultados do #WearthePants.

as pessoas simplesmente odeiam algoritmos

No entanto, parece que muitas pessoas, independentemente do sexo, não gostam ou não entendem seja qual for o novo algoritmo do LinkedIn.

O cientista de dados Shailvi Wakhulu disse ao TechCrunch que ele fez uma média de pelo menos uma postagem por dia durante cinco anos e uma vez viu milhares de impressões. Agora, ela e o marido têm sorte de ver centenas deles. “Para criadores de conteúdo com seguidores grandes e leais, isso é desanimador”, diz ela.

Um homem disse ao TechCrunch que o engajamento caiu cerca de 50% nos últimos meses. Ainda assim, outro homem disse que as impressões e o alcance de sua postagem aumentaram mais de 100% em um período semelhante. “Isso ocorre principalmente porque escrevo sobre tópicos específicos para públicos específicos, e é aí que o novo algoritmo se beneficia”, disse ele ao TechCrunch, acrescentando que seus clientes estão vendo um aumento semelhante.

Mas, na experiência de Marshall, como pessoa negra, ela acredita que as postagens sobre suas experiências têm desempenho pior do que as postagens relacionadas à sua raça. “Se as mulheres negras só interagem quando falam sobre mulheres negras, mas não quando falam sobre as suas competências específicas, isso é preconceito”, diz ela.

O pesquisador Dean acredita que o algoritmo pode simplesmente amplificar “todos os sinais que já existem”. Uma determinada postagem pode ser recompensada não por causa da demografia do escritor, mas porque tem um histórico mais longo de resposta em todas as plataformas. Marshall pode ter encontrado outras áreas de preconceito implícito, mas a sua evidência anedótica não é suficiente para determinar isso com certeza.

O LinkedIn forneceu informações sobre o que está funcionando bem atualmente. Segundo a empresa, a base de usuários se expandiu, resultando em um aumento de 15% no número de postagens e de 24% no número de comentários em relação ao ano anterior. “Isso significa aumento da concorrência no setor de rações”, disse a empresa. Postagens sobre insights profissionais, lições de carreira, notícias e análises do setor e conteúdo educacional e informativo sobre trabalho, negócios e economia vão bem, disse ele.

Em vez disso, as pessoas estão apenas confusas. “Quero transparência”, diz Michelle.

No entanto, este é um grande problema porque os algoritmos de seleção de conteúdo sempre foram segredos bem guardados pelas empresas, e a transparência pode levar à exploração do sigilo. Nunca é satisfatório.