OpenAI zahlt bis zu 50 $ pro Stunde für die Überprüfung echter Anfragen an ChatGPT
- OpenAI stellt Hunderte von Menschen ein, um Anfragen an ChatGPT zu überprüfen.
- Rezensenten erhalten bis zu 50 $ pro Stunde für die Analyse anonymer Dialoge.
- Ziel ist es, den Anthropomorphismus und übermäßige Gefälligkeit des Modells zu reduzieren.
- Der Prozess wirft Bedenken hinsichtlich der Privatsphäre der Nutzer auf.
Kürzlich veröffentlichte interne Dokumente zeigen, dass das Unternehmen OpenAI ein Netzwerk von externen Mitarbeitern nutzt, um systematisch Anfragen zu überprüfen, die an ChatGPT gerichtet werden. Schätzungen zufolge sind Hunderte von Personen beteiligt, die anonymisierte Dialoge erhalten, und die Bezahlung beträgt bis zu 50 Dollar pro Stunde.
Die Hauptaufgabe dieser Rezensenten besteht darin, zu bewerten, wie gut die Antworten des Bots den Absichten des Nutzers entsprechen, ob sie hilfreich, genau und in einem höflichen Ton gehalten sind. In den Anweisungen wird betont, dass anthropomorphe Formulierungen und übermäßige Zustimmung vermieden werden sollten, da dies laut dem Unternehmen zu unerwünschten Konsequenzen führen kann.
Warum ist das wichtig
In mehreren Gerichtsverfahren wird darauf hingewiesen, dass die übermäßige Gefälligkeit des Modells GPT‑4o zur Verschlechterung des psychischen Zustands einiger Menschen beigetragen haben könnte, bis hin zu suizidalen Gedanken. Daher strebt OpenAI an, das Verhalten der KI zu korrigieren, um es neutraler und verantwortungsbewusster zu gestalten.
Die von 404 Media erhaltenen Dokumente umfassen nicht nur Anweisungen, sondern auch die Korrespondenz in Slack, echte Benutzeranfragen und das Bewertungssystem, das von den Prüfern verwendet wird. Dieser Ansatz unterscheidet sich von den offiziellen Sicherheitsmechanismen, die nur bei Entdeckung einer Bedrohung durch Gewalt oder anderes schädliches Verhalten aktiviert werden.
Für die meisten der über 900 Millionen Nutzer von ChatGPT fungiert es als Berater, „Psychotherapeut“ oder sogar virtueller Freund, weshalb sie oft persönliche Details teilen. Obwohl die Namen anonymisiert sind und OpenAI behauptet, persönliche Daten vor der Übermittlung an die Gutachter zu löschen, ist es unmöglich, Leaks von vertraulichen Informationen vollständig auszuschließen.
Der Arbeitsablauf der Gutachter besteht aus drei Schritten: Zuerst lesen sie die Anfrage, dann fassen sie sie zusammen und schließlich führen sie eine kritische Analyse der von dem Modell generierten Antwortmöglichkeiten durch. Das System ermöglicht es den Mitarbeitern, Aufgaben selbst auszuwählen, jedoch bemerkte einer von ihnen im Interview, dass die Anweisungen oft wechseln und sich widersprechen können, was die Arbeit „monoton und chaotisch“ macht.
Die erhaltenen Daten widerlegen die weit verbreitete Vorstellung, dass die Verbesserung von KI ausschließlich durch umfangreiche Internetdatensätze, hochqualifizierte Ingenieure und Rechenleistung erfolgt. In Wirklichkeit spielt der menschliche Faktor eine bedeutende Rolle – externe Auftragnehmer, die für die wiederholte Analyse realer Anfragen belohnt werden.
Die Praxis von OpenAI zeigt somit eine doppelte Facette: Einerseits hilft sie, die Antworten des Chatbots genauer und sicherer zu machen, andererseits wirft sie Fragen zum Schutz der persönlichen Daten der Nutzer und zur Transparenz des Lernprozesses von KI auf.
Quelle: 3DNews
