OpenAI платить до $50 на годину за перевірку реальних запитів до ChatGPT
- OpenAI наймає сотні людей для перевірки запитів до ChatGPT.
- Рецензенти отримують від $50 на годину за аналіз анонімних діалогів.
- Мета – зменшити антропоморфізм і надмірну угодливість моделі.
- Процес викликає занепокоєння щодо конфіденційності користувачів.
Нещодавно опубліковані внутрішні документи розкривають, що компанія OpenAI використовує мережу зовнішніх співробітників для систематичної перевірки запитів, що надходять у ChatGPT. За оцінками, в роботі задіяні сотні людей, яким надаються анонімізовані діалоги, а оплата досягає 50 доларів за годину.
Основне завдання цих рецензентів – оцінити, наскільки відповіді бота відповідають намірам користувача, чи є вони корисними, точними та витриманими у ввічливому тоні. В інструкціях підкреслюється необхідність уникати антропоморфних формулювань і надмірної згоди, які, на думку компанії, можуть призвести до небажаних наслідків.
Чому це важливо
В кількох судових справах вказується, що надмірна угодливість моделі GPT‑4o могла сприяти погіршенню психічного стану деяких людей, аж до суїцидальних думок. Тому OpenAI прагне коригувати поведінку ІІ, роблячи його більш нейтральним і відповідальним.
Документи, отримані 404 Media, включають не лише інструкції, але й переписку в Slack, реальні запити користувачів і систему оцінок, яку використовують перевіряючі. Такий підхід відрізняється від офіційних механізмів безпеки, які активуються лише при виявленні загрози насильства або іншої шкідливої поведінки.
Для більшості з понад 900 млн користувачів ChatGPT він виступає в ролі радника, «психотерапевта» або навіть віртуального друга, тому вони часто діляться особистими деталями. Хоча імена приховані, а OpenAI стверджує, що видаляє персональні дані до передачі їх рецензентам, повністю виключити витік конфіденційної інформації неможливо.
Робочий процес рецензентів складається з трьох етапів: спочатку вони читають запит, потім формують його короткий зміст і, нарешті, проводять критичний розбір варіантів відповідей, згенерованих моделлю. Система дозволяє співробітникам самостійно обирати завдання, однак в інтерв'ю один з них зазначив, що інструкції часто змінюються і можуть суперечити одна одній, роблячи роботу «монотонною і хаотичною».
Отримані дані спростовують поширене уявлення, що покращення ШІ відбувається виключно за рахунок масштабних наборів інтернет-даних, висококваліфікованих інженерів і обчислювальних потужностей. В реальності значну роль відіграє людський фактор – сторонні підрядники, які отримують винагороду за повторюваний аналіз реальних запитів.
Таким чином, практика OpenAI демонструє подвійний бік: з одного боку, вона допомагає робити відповіді чат‑бота більш точними та безпечними, з іншого – піднімає питання про захист особистих даних користувачів та прозорість процесу навчання ІІ.
Джерело: 3DNews
