Algoritmo de código aberto X enquanto enfrenta multas de transparência e controvérsia Grok

Em 2023, este site era parcialmente conhecido como Twitter Código aberto do algoritmo primeira vez. Na época, o bilionário da Tesla, Elon Musk, tinha acabado de adquirir a plataforma e afirmou que tinha a missão de reconstruir a plataforma de mídia social e torná-la mais transparente.

No entanto, a divulgação do código do algoritmo foi rapidamente criticada.Um teatro transparente”E os críticos notaram que estava “incompleto” e não revelava muito sobre o funcionamento interno da organização ou por que seu código funcionava daquela maneira.

Agora, o site (renomeado para X) abriu novamente o código-fonte de seu algoritmo, cumprindo uma promessa feita por Musk na semana passada. “Abriremos o código do nosso novo algoritmo 𝕏, que inclui todo o código usado para decidir quais postagens orgânicas e publicitárias recomendar aos nossos usuários, dentro de sete dias.” ele disse. Musk também prometeu fornecer transparência ao algoritmo a cada quatro semanas, por enquanto.

em publicar X forneceu um artigo acessível no GitHub na terça-feira sobre o código de geração de feed, junto com diagramas que mostram como o programa funciona.

O que foi revelado não é particularmente chocante, mas fornece uma visão por trás da cortina algorítmica. de figura mostra que, ao selecionar o conteúdo para alimentar um usuário específico, o algoritmo de um site considera o histórico de engajamento do usuário (como em quais postagens ele clica) e examina as postagens recentes em sua rede. Também realizamos análises baseadas em aprendizado de máquina de postagens “fora da rede” que achamos que os usuários podem achar atraentes, como conteúdo de contas que os usuários não necessariamente seguem.

O algoritmo então filtra certos tipos de postagens, como postagens de contas bloqueadas, postagens associadas a palavras-chave silenciadas e conteúdo muito violento ou com spam. O algoritmo então classifica esse conteúdo com base no que os usuários consideram mais atraente. Esse processo leva em consideração fatores como relevância e diversidade de conteúdo, para que os usuários não sejam bombardeados com postagens que parecem todas iguais. O algoritmo também considera o conteúdo de acordo com a probabilidade de os usuários gostarem, responderem, repassarem, favoritarem ou se envolverem de outra forma com o conteúdo.

De acordo com o Sr. X, todo o sistema é baseado em IA. Uma postagem do GitHub publicada na terça-feira diz que o sistema “depende inteiramente” do “transformador baseado em Grok” da empresa para “aprender associações a partir de sequências de envolvimento do usuário”. Em outras palavras, Grok analisa o que você clica ou gosta e alimenta essas informações em um sistema de recomendação. O artigo também afirma que não existe “engenharia manual de recursos para tornar o conteúdo mais relevante”. Isso significa que os humanos não ajustam manualmente a forma como o algoritmo determina o que é relevante. Acrescentou que a automação “reduz significativamente a complexidade dos pipelines de dados e da infraestrutura de serviços”.

Por que X revelaria tudo isso agora? Não está totalmente claro. Musk já disse no passado que deseja que a plataforma seja um exemplo de transparência corporativa, um tema que continua até hoje. Em 2023, quando o algoritmo do Twitter foi revelado pela primeira vez, Musk disse Fornecer “transparência de código” pode ser “incrivelmente embaraçoso no início”, mas acabará “levando a melhorias rápidas na qualidade das recomendações”. Ele acrescentou: “O mais importante é que esperamos ganhar sua confiança”. Ao abrir o código inicial, a plataformaUma nova era de transparência”No Twitter.

Musk falou sobre transparência, mas certos aspectos da plataforma talvez tenham se tornado menos abertos desde que ele assumiu. Quando o bilionário da tecnologia comprou o Twitter em 2022, o site foi particularmente forçado a deixar de ser uma empresa pública. para algo privado—Essa evolução geralmente não é sinônimo de abertura. Este site foi lançado anteriormente, Relatórios de transparência várias vezes por anoX não liberou Primeiro relatório de transparência Até setembro de 2024. Em dezembro, X Multa de US$ 140 milhões Os reguladores da União Europeia alegaram que o site violava as “obrigações de transparência” da Lei de Serviços Digitais (DSA), argumentando que o sistema de marcas de verificação do site tornava mais difícil para os usuários determinar a autenticidade de contas específicas.

X também esteve sob pressão no último mês depois que seu chatbot Grok foi usado para criar e distribuir conteúdo sexual. Gabinete do Procurador-Geral da Califórnia e membro do parlamento Ambos os homens examinaram a plataforma nas últimas semanas, citando alegações de que Grok está sendo usado para criar imagens nuas de mulheres e menores. Como resultado, alguns podem ver isto como um apelo à abertura. apenas um teatro.