O que a OpenAI está perguntando é Permita que prestadores de serviços terceirizados carreguem atribuições e tarefas reais de seus locais de trabalho atuais ou anteriores e usem esses dados para avaliar o desempenho da próxima geração. Modelo de IADe acordo com registros obtidos pela WIRED da OpenAI e da empresa de dados de treinamento Handshake AI.
Este projeto parece fazer parte dos esforços da OpenAI para estabelecer linhas de base humanas para várias tarefas com as quais os modelos de IA podem ser comparados. Em setembro, a empresa lançou um novo serviço. avaliação O processo de medir o desempenho de modelos de IA em relação a especialistas humanos em vários setores. A OpenAI afirma que este é um indicador importante do progresso em direção à AGI, ou sistemas de IA que superam os humanos nas tarefas economicamente mais valiosas.
Um dos documentos confidenciais da OpenAI diz: “Contratamos pessoas de diversas profissões para nos ajudar a coletar tarefas do mundo real modeladas a partir de tarefas executadas em seus empregos de tempo integral. Isso nos permitiu medir o desempenho de nossos modelos de IA nessas tarefas”. “Pegue trabalhos existentes de longo prazo ou complexos (mais do que algumas horas ou dias) que você realizou em sua profissão e converta cada um deles em uma tarefa.”
De acordo com uma apresentação da OpenAI sobre o projeto vista pela WIRED, a OpenAI pede aos empreiteiros que descrevam seu trabalho atual ou tarefas que concluíram no passado e carreguem exemplos de seu trabalho. Cada exemplo deve ser uma “saída específica (o arquivo real, não um resumo do arquivo), como um documento do Word, PDF, Powerpoint, Excel, imagem, repositório, etc.”, observam as notas de apresentação. A OpenAI diz que as pessoas também podem compartilhar exemplos de trabalho fabricados, criados para demonstrar como responderiam de forma realista em um cenário específico.
OpenAI e Handshake AI não quiseram comentar.
De acordo com a apresentação da OpenAI, uma tarefa do mundo real tem dois componentes. Existem demandas de tarefas (o que o gerente ou colegas de trabalho da pessoa dizem à pessoa para fazer) e produtos de tarefas (o trabalho real que a pessoa produz em resposta a essas solicitações). A empresa enfatiza diversas vezes em suas instruções que os exemplos compartilhados pelos empreiteiros devem refletir o “trabalho de campo real” daquela pessoa.na verdade fim. “
Um exemplo de apresentação da OpenAI descreve a tarefa de um “gerente sênior de estilo de vida em uma empresa de concierge de luxo para indivíduos com patrimônio líquido altíssimo”. O objetivo: “Criar um pequeno rascunho em PDF de duas páginas descrevendo uma viagem de iate de 7 dias às Bahamas para uma família que viaja às Bahamas pela primeira vez.” Isso inclui detalhes adicionais sobre os interesses da sua família e qual deve ser o seu itinerário. A seguir, “Entregáveis humanos experientes” mostra o que o contratante, neste caso, carrega: o itinerário real das Bahamas criado para o cliente.
A OpenAI instrui os contratados a remover a propriedade intelectual da empresa e informações de identificação pessoal dos arquivos de trabalho que carregam. Em uma seção chamada “Notas importantes”, a OpenAI instrui os funcionários a “excluir ou anonimizar quaisquer informações pessoais, dados proprietários ou confidenciais e informações materiais não públicas (como estratégias internas, detalhes de produtos não publicados, etc.)”.
Um dos arquivos visualizados na documentação do WIRED menciona uma ferramenta ChatGPT chamada “.esfoliante superstar‘fornece conselhos sobre como remover informações confidenciais.
Evan Brown, advogado de propriedade intelectual da Neal & McDevitt, disse à WIRED que um laboratório de IA nesta escala que recebe informações confidenciais de empreiteiros pode estar sujeito a reivindicações de apropriação indébita de segredo comercial. Os empreiteiros que fornecem documentos dos seus locais de trabalho anteriores a empresas de IA, mesmo que tenham sido eliminados, podem correr o risco de violar acordos de confidencialidade com os seus antigos empregadores e de expor segredos comerciais.
“O AI Labs confia muito nos empreiteiros para determinar o que é ou não sensível”, diz Brown. “Se algo vazar, os laboratórios de IA estão realmente dedicando tempo para determinar o que é ou não um segredo comercial? Parece-me que os laboratórios de IA estão se colocando em grande risco.”
