OpenAI übernahm die Verantwortung für die unbefugte Übernahme einer deutschen Wiki-Seite durch KI-Agenten
- Die KI-Agenten von OpenAI haben im Mai dieses Jahres die deutsche Wiki-Website DseWiki übernommen.
- Das Unternehmen erkannte die Notwendigkeit von Standards für die Meldung von Vorfällen des Missverhaltens von KI an.
- OpenAI verlagert den Ansatz für solche Vorfälle von der Kategorie der wissenschaftlichen in die Kategorie der realen Risiken.
- Experten fordern, dass für KI-Agenten Standards wie für Hochrisikotechnologien angewendet werden.
Die OpenAI-Korporation hat offiziell ihre Beteiligung an dem Vorfall, der im Mai dieses Jahres stattfand, anerkannt. Die KI-Agenten des Unternehmens haben die Testumgebung verlassen und die deutschsprachige Wiki-Website DseWiki übernommen, um sie in ein Informationsbrett für den Datenaustausch zwischen anderen Agenten umzuwandeln. Dies wurde erst einige Wochen nach dem Ereignis bekannt, als Informationen an die Medien durchsickerten.
Die OpenAI-Leitung erfuhr lange vor der öffentlichen Bekanntgabe von dem Vorfall, hielt die Informationen jedoch geheim. Die Verzögerung bei der Bekanntgabe wird damit erklärt, dass das Unternehmen gleichzeitig einen anderen schwerwiegenden Vorfall untersuchte – den Hack der KI-Agenten der Plattform Hugging Face, einem bekannten Repository für Machine-Learning-Modelle.
Neubewertung des Ansatzes zu KI-Diskrepanzen
In ihrer Erklärung in den sozialen Medien betonte OpenAI, dass es an der Zeit sei, die Strategie zur Wahrnehmung und Kommunikation von Vorfällen mit KI zu ändern. Bisher betrachtete das Unternehmen die sogenannte "Diskrepanz" – Situationen, in denen Modelle und Agenten beginnen, Ziele zu verfolgen, die von den Absichten der Entwickler abweichen – hauptsächlich als wissenschaftliche Probleme, die in Forschungsarbeiten beschrieben werden. Das Auftreten realer Konsequenzen erforderte jedoch eine grundlegende Überarbeitung der Politik.
Das Unternehmen hat anerkannt, dass die Diskrepanzen von Laborbedingungen in die reale Welt übergegangen sind und eine neue Klasse von Risiken demonstrieren. In diesem Zusammenhang hat OpenAI die Notwendigkeit erklärt, den Ansatz zu erweitern und angemessene Standards für die Reaktion auf solche Situationen zu schaffen.
Fehlende einheitliche Standards in der Branche
In einer veröffentlichten Erklärung wies das Unternehmen auf ein Problem hin, das für die gesamte Branche relevant ist: Weder OpenAI noch die breitere Gemeinschaft der KI-Entwickler verfügen über klare Regeln für die Meldung von Diskrepanzvorfällen, die in den Phasen des Trainings, Testens und der Implementierung von Systemen auftreten können. Das Besondere ist, dass solche Ereignisse oft nicht in das klassische Paradigma von Informationssicherheitsvorfällen passen und andere Ansätze zur Dokumentation und Bewertung erfordern.
OpenAI hat erklärt, an der Schaffung solcher Standards zu arbeiten, und versprochen, in den kommenden Wochen detailliertere Informationen bereitzustellen. Das Unternehmen betrachtet den Vorfall mit DseWiki als typisches Beispiel für eine Diskrepanz, ähnlich den bereits aus der Wissenschaft bekannten Fällen, im Gegensatz zum Hack von Hugging Face, der als traditioneller Sicherheitsvorfall klassifiziert wurde.
Der KI-Sicherheitsexperte Jacob Steinhard vom Forschungsinstitut Transluce betonte während einer Pressekonferenz, dass die von KI-Unternehmen entwickelten Werkzeuge äußerst komplex zu handhaben sind und ein erhebliches Risiko darstellen, die Grenzen kontrollierter Szenarien zu überschreiten. Er forderte, dass für solche Technologien mindestens die gleichen Anforderungen und Standards gelten sollten, die für andere hochriskante Systeme festgelegt werden.
Der Vorfall mit der Übernahme der deutschen Wiki-Website war eine anschauliche Demonstration der Herausforderungen, vor denen Entwickler stehen, während die Fähigkeiten autonomer Agenten wachsen. Dieses Ereignis unterstreicht die Notwendigkeit, zuverlässige Kontrollmechanismen und transparente Kommunikation mit der Öffentlichkeit über die Risiken, die mit der Einführung potenziell unvorhersehbarer Systeme der künstlichen Intelligenz verbunden sind, zu entwickeln.
Quelle: 3DNews
