A OpenAI paga até $50 por hora para revisar solicitações reais ao ChatGPT
- A OpenAI está contratando centenas de pessoas para verificar solicitações ao ChatGPT.
- Os revisores recebem a partir de 50 dólares por hora para analisar diálogos anônimos.
- O objetivo é reduzir o antropomorfismo e a excessiva obediência do modelo.
- O processo levanta preocupações sobre a privacidade dos usuários.
Documentos internos recentemente divulgados revelam que a empresa OpenAI utiliza uma rede de colaboradores externos para verificar sistematicamente as solicitações que chegam ao ChatGPT. Estima-se que centenas de pessoas estejam envolvidas, recebendo diálogos anonimizados, e o pagamento chega a 50 dólares por hora.
A principal tarefa desses revisores é avaliar o quanto as respostas do bot correspondem às intenções do usuário, se são úteis, precisas e mantidas em um tom educado. As instruções enfatizam a necessidade de evitar formulações antropomórficas e concordância excessiva, que, na opinião da empresa, podem levar a consequências indesejadas.
Por que isso é importante
Em vários processos judiciais, é indicado que a excessiva obsequiosidade do modelo GPT‑4o pode ter contribuído para a deterioração do estado mental de algumas pessoas, chegando a pensamentos suicidas. Portanto, a OpenAI busca corrigir o comportamento da IA, tornando-o mais neutro e responsável.
Os documentos obtidos pela 404 Media incluem não apenas instruções, mas também correspondência no Slack, solicitações reais de usuários e um sistema de avaliações que os verificadores utilizam. Essa abordagem difere dos mecanismos oficiais de segurança, que são ativados apenas ao detectar uma ameaça de violência ou outro comportamento prejudicial.
Para a maioria dos mais de 900 milhões de usuários do ChatGPT, ele atua como conselheiro, "psicoterapeuta" ou até mesmo amigo virtual, por isso eles frequentemente compartilham detalhes pessoais. Embora os nomes sejam ocultados e a OpenAI afirme que remove dados pessoais antes de enviá-los aos revisores, é impossível excluir completamente a possibilidade de vazamento de informações confidenciais.
O fluxo de trabalho dos revisores consiste em três etapas: primeiro, eles leem a solicitação, em seguida, elaboram um resumo e, finalmente, realizam uma análise crítica das opções de resposta geradas pelo modelo. O sistema permite que os funcionários escolham as tarefas por conta própria, no entanto, em uma entrevista, um deles observou que as instruções frequentemente mudam e podem ser contraditórias, tornando o trabalho "monótono e caótico".
Os dados obtidos refutam a ideia comum de que a melhoria da IA ocorre exclusivamente por meio de grandes conjuntos de dados da internet, engenheiros altamente qualificados e poder computacional. Na realidade, o fator humano desempenha um papel significativo – contratados externos que recebem recompensas por analisar repetidamente solicitações reais.
Dessa forma, a prática da OpenAI demonstra um duplo aspecto: por um lado, ajuda a tornar as respostas do chatbot mais precisas e seguras, por outro, levanta questões sobre a proteção dos dados pessoais dos usuários e a transparência do processo de treinamento da IA.
Fonte: 3DNews
