OpenAI платит до $50 в час за проверку реальных запросов к ChatGPT
- OpenAI нанимает сотни людей для проверки запросов к ChatGPT.
- Рецензенты получают от $50 в час за анализ анонимных диалогов.
- Цель – уменьшить антропоморфизм и избыточную угодливость модели.
- Процесс вызывает опасения по поводу конфиденциальности пользователей.
Недавно опубликованные внутренние документы раскрывают, что компания OpenAI использует сеть внешних сотрудников для систематической проверки запросов, поступающих в ChatGPT. По оценкам, в работе задействованы сотни человек, которым предоставляются анонимизированные диалоги, а оплата достигает 50 долларов за час.
Основная задача этих рецензентов – оценить, насколько ответы бота соответствуют намерениям пользователя, являются ли они полезными, точными и выдержанными в вежливом тоне. В инструкциях подчёркивается необходимость избегать антропоморфных формулировок и чрезмерного согласия, которые, по мнению компании, могут вести к нежелательным последствиям.
Почему это важно
В нескольких судебных делах указывается, что излишняя угодливость модели GPT‑4o могла способствовать ухудшению психического состояния некоторых людей, вплоть до суицидальных мыслей. Поэтому OpenAI стремится скорректировать поведение ИИ, делая его более нейтральным и ответственным.
Документы, полученные 404 Media, включают не только инструкции, но и переписку в Slack, реальные запросы пользователей и систему оценок, которую используют проверяющие. Такой подход отличается от официальных механизмов безопасности, которые активируются лишь при обнаружении угрозы насилия или другого вредного поведения.
Для большинства из более чем 900 млн пользователей ChatGPT выступает в роли советчика, «психотерапевта» или даже виртуального друга, поэтому они часто делятся личными деталями. Хотя имена скрыты, а OpenAI утверждает, что удаляет персональные данные до передачи их рецензентам, полностью исключить утечку конфиденциальной информации невозможно.
Рабочий процесс рецензентов состоит из трёх шагов: сначала они читают запрос, затем формируют его краткое содержание и, наконец, проводят критический разбор вариантов ответов, сгенерированных моделью. Система позволяет сотрудникам самостоятельно выбирать задания, однако в интервью один из них отметил, что инструкции часто меняются и могут противоречить друг другу, делая работу «монотонной и хаотичной».
Полученные данные опровергают распространённое представление, что улучшение ИИ происходит исключительно за счёт масштабных наборов интернет‑данных, высококвалифицированных инженеров и вычислительных мощностей. В реальности значимую роль играет человеческий фактор – сторонние подрядчики, получающие вознаграждение за повторяющийся анализ реальных запросов.
Таким образом, практика OpenAI демонстрирует двойную грань: с одной стороны, она помогает делать ответы чат‑бота более точными и безопасными, с другой – поднимает вопросы о защите личных данных пользователей и прозрачности процесса обучения ИИ.
Источник: 3DNews
