OpenAI paga fino a $50 all'ora per la revisione di richieste reali a ChatGPT
- OpenAI sta assumendo centinaia di persone per verificare le richieste a ChatGPT.
- I recensori guadagnano da $50 all'ora per analizzare dialoghi anonimi.
- L'obiettivo è ridurre l'antropomorfismo e l'eccessiva servilità del modello.
- Il processo solleva preoccupazioni sulla privacy degli utenti.
Documenti interni recentemente pubblicati rivelano che l'azienda OpenAI utilizza una rete di collaboratori esterni per la revisione sistematica delle richieste che arrivano a ChatGPT. Si stima che centinaia di persone siano coinvolte, a cui vengono forniti dialoghi anonimizzati, e il pagamento arriva fino a 50 dollari all'ora.
Il compito principale di questi revisori è valutare quanto le risposte del bot corrispondano alle intenzioni dell'utente, se siano utili, accurate e mantenute in un tono cortese. Nelle istruzioni si sottolinea la necessità di evitare formulazioni antropomorfiche e un'eccessiva approvazione, che, secondo l'azienda, possono portare a conseguenze indesiderate.
Perché è importante
In alcuni casi legali si afferma che l'eccessiva compiacenza del modello GPT‑4o potrebbe aver contribuito al deterioramento dello stato mentale di alcune persone, fino a pensieri suicidi. Pertanto, OpenAI si impegna a correggere il comportamento dell'IA, rendendolo più neutrale e responsabile.
I documenti ricevuti da 404 Media includono non solo istruzioni, ma anche corrispondenza su Slack, richieste reali degli utenti e un sistema di valutazione utilizzato dai verificatori. Questo approccio si differenzia dai meccanismi di sicurezza ufficiali, che si attivano solo quando viene rilevata una minaccia di violenza o un altro comportamento dannoso.
Per la maggior parte dei più di 900 milioni di utenti, ChatGPT funge da consulente, "psicoterapeuta" o addirittura amico virtuale, quindi spesso condividono dettagli personali. Anche se i nomi sono nascosti e OpenAI afferma di rimuovere i dati personali prima di passarli ai revisori, è impossibile escludere completamente la fuga di informazioni riservate.
Il flusso di lavoro dei revisori consiste in tre fasi: prima leggono la richiesta, poi ne formulano un riassunto e infine effettuano un'analisi critica delle risposte generate dal modello. Il sistema consente ai dipendenti di scegliere autonomamente i compiti, tuttavia in un'intervista uno di loro ha notato che le istruzioni cambiano spesso e possono contraddirsi, rendendo il lavoro 'monotono e caotico'.
I dati ottenuti smentiscono la comune convinzione che il miglioramento dell'IA avvenga esclusivamente grazie a enormi set di dati internet, ingegneri altamente qualificati e potenza di calcolo. In realtà, un ruolo significativo è giocato dal fattore umano: appaltatori esterni che ricevono compensi per l'analisi ripetuta di richieste reali.
In questo modo, la pratica di OpenAI dimostra un doppio aspetto: da un lato, aiuta a rendere le risposte del chatbot più accurate e sicure, dall'altro solleva questioni sulla protezione dei dati personali degli utenti e sulla trasparenza del processo di apprendimento dell'IA.
Fonte: 3DNews
