OpenAI paie jusqu'à 50 $ de l'heure pour examiner de vraies demandes à ChatGPT
- OpenAI embauche des centaines de personnes pour vérifier les requêtes adressées à ChatGPT.
- Les évaluateurs reçoivent jusqu'à 50 $ de l'heure pour analyser des dialogues anonymes.
- L'objectif est de réduire l'anthropomorphisme et l'excès de servilité du modèle.
- Le processus soulève des inquiétudes concernant la confidentialité des utilisateurs.
Des documents internes récemment publiés révèlent qu'OpenAI utilise un réseau d'employés externes pour vérifier systématiquement les requêtes soumises à ChatGPT. On estime que des centaines de personnes sont impliquées, recevant des dialogues anonymisés, et la rémunération atteint 50 dollars de l'heure.
La tâche principale de ces examinateurs est d'évaluer dans quelle mesure les réponses du bot correspondent aux intentions de l'utilisateur, si elles sont utiles, précises et maintenues dans un ton poli. Les instructions soulignent la nécessité d'éviter les formulations anthropomorphiques et l'accord excessif, qui, selon l'entreprise, peuvent conduire à des conséquences indésirables.
Pourquoi est-ce important
Dans plusieurs affaires judiciaires, il est indiqué que l'excès de complaisance du modèle GPT‑4o pourrait avoir contribué à la détérioration de l'état mental de certaines personnes, allant jusqu'à des pensées suicidaires. C'est pourquoi OpenAI s'efforce de corriger le comportement de l'IA, en le rendant plus neutre et responsable.
Les documents obtenus par 404 Media incluent non seulement des instructions, mais aussi des échanges sur Slack, de vraies demandes d'utilisateurs et un système d'évaluation utilisé par les vérificateurs. Cette approche diffère des mécanismes de sécurité officiels, qui ne s'activent qu'en cas de détection d'une menace de violence ou d'un autre comportement nuisible.
Pour la plupart des plus de 900 millions d'utilisateurs, ChatGPT joue le rôle de conseiller, de « psychothérapeute » ou même d'ami virtuel, c'est pourquoi ils partagent souvent des détails personnels. Bien que les noms soient masqués et qu'OpenAI affirme qu'il supprime les données personnelles avant de les transmettre aux examinateurs, il est impossible d'exclure complètement la fuite d'informations confidentielles.
Le processus de travail des réviseurs se compose de trois étapes : d'abord, ils lisent la demande, puis ils en formulent un résumé, et enfin, ils effectuent une analyse critique des réponses générées par le modèle. Le système permet aux employés de choisir eux-mêmes leurs tâches, cependant, lors d'une interview, l'un d'eux a noté que les instructions changent souvent et peuvent se contredire, rendant le travail « monotone et chaotique ».
Les données obtenues contredisent l'idée répandue selon laquelle l'amélioration de l'IA se fait uniquement grâce à de vastes ensembles de données Internet, des ingénieurs hautement qualifiés et des capacités de calcul. En réalité, le facteur humain joue un rôle significatif – des sous-traitants externes qui sont rémunérés pour l'analyse répétée des demandes réelles.
Ainsi, la pratique d'OpenAI démontre un double aspect : d'une part, elle aide à rendre les réponses du chatbot plus précises et sûres, d'autre part, elle soulève des questions sur la protection des données personnelles des utilisateurs et la transparence du processus d'apprentissage de l'IA.
Source : 3DNews
