OpenAI płaci do 50 USD za godzinę za przeglądanie rzeczywistych zapytań do ChatGPT
- OpenAI zatrudnia setki osób do weryfikacji zapytań do ChatGPT.
- Recenzenci otrzymują od $50 za godzinę za analizę anonimowych dialogów.
- Celem jest zmniejszenie antropomorfizmu i nadmiernej uległości modelu.
- Proces budzi obawy dotyczące prywatności użytkowników.
Niedawno opublikowane wewnętrzne dokumenty ujawniają, że firma OpenAI korzysta z sieci zewnętrznych pracowników do systematycznej weryfikacji zapytań kierowanych do ChatGPT. Szacuje się, że w pracy bierze udział setki osób, którym dostarczane są anonimowe dialogi, a wynagrodzenie sięga 50 dolarów za godzinę.
Głównym zadaniem tych recenzentów jest ocena, na ile odpowiedzi bota odpowiadają intencjom użytkownika, czy są one pomocne, dokładne i utrzymane w uprzejmym tonie. W instrukcjach podkreśla się konieczność unikania antropomorficznych sformułowań i nadmiernej zgody, które, zdaniem firmy, mogą prowadzić do niepożądanych konsekwencji.
Dlaczego to jest ważne
W kilku sprawach sądowych wskazano, że nadmierna uległość modelu GPT‑4o mogła przyczynić się do pogorszenia stanu psychicznego niektórych osób, aż do myśli samobójczych. Dlatego OpenAI dąży do skorygowania zachowania AI, czyniąc je bardziej neutralnym i odpowiedzialnym.
Dokumenty uzyskane przez 404 Media zawierają nie tylko instrukcje, ale także korespondencję w Slacku, rzeczywiste zapytania użytkowników oraz system ocen, który stosują weryfikatorzy. Takie podejście różni się od oficjalnych mechanizmów bezpieczeństwa, które aktywują się tylko w przypadku wykrycia zagrożenia przemocy lub innego szkodliwego zachowania.
Dla większości z ponad 900 mln użytkowników ChatGPT pełni rolę doradcy, „psychoterapeuty” lub nawet wirtualnego przyjaciela, dlatego często dzielą się osobistymi szczegółami. Chociaż imiona są ukryte, a OpenAI twierdzi, że usuwa dane osobowe przed ich przekazaniem recenzentom, całkowite wykluczenie wycieku poufnych informacji jest niemożliwe.
Proces pracy recenzentów składa się z trzech kroków: najpierw czytają zapytanie, następnie formułują jego streszczenie, a na koniec przeprowadzają krytyczną analizę wariantów odpowiedzi wygenerowanych przez model. System pozwala pracownikom samodzielnie wybierać zadania, jednak w wywiadzie jeden z nich zauważył, że instrukcje często się zmieniają i mogą sobie przeczyć, co sprawia, że praca jest „monotonna i chaotyczna”.
Uzyskane dane obalają powszechne przekonanie, że poprawa AI odbywa się wyłącznie dzięki dużym zbiorom danych z internetu, wysoko wykwalifikowanym inżynierom i mocom obliczeniowym. W rzeczywistości znaczącą rolę odgrywa czynnik ludzki – zewnętrzni wykonawcy, którzy otrzymują wynagrodzenie za powtarzającą się analizę rzeczywistych zapytań.
W ten sposób praktyka OpenAI pokazuje podwójny wymiar: z jednej strony pomaga uczynić odpowiedzi chatbota bardziej precyzyjnymi i bezpiecznymi, z drugiej – rodzi pytania o ochronę danych osobowych użytkowników i przejrzystość procesu uczenia AI.
Źródło: 3DNews
