Führende Mathematiker fordern, die Rolle von KI in der wissenschaftlichen Forschung zu begrenzen.

• 25 Fields-Preisträger haben einen Brief gegen KI-Modelle unterzeichnet
• OpenAI wird beschuldigt, Druck auf Wissenschaftler auszuüben und Daten heimlich zu verwenden
• Das Unternehmen hat die Sponsorship des KTI-Events nach Kritik abgelehnt
• Wissenschaftler befürchten den Verlust einer offenen Wissenschaftskultur

Zu Beginn der Woche veröffentlichten 25 herausragende Mathematiker, darunter alle Unterzeichner, die Träger der Fields-Medaille sind, einen offenen Brief. In dem Dokument weisen sie darauf hin, dass Unternehmen, die große Sprachmodelle entwickeln, den traditionellen Prozess der wissenschaftlichen Kreativität gefährden, indem sie versuchen, sich gegenseitig bei der Lösung bekannter mathematischer Probleme zu übertreffen.

Konflikt mit OpenAI

Professor Tristan Buckmaster von der New York University beschuldigte OpenAI, Druck auf ihn ausgeübt zu haben, um einen Kollegen von Anthropic, mit dem er an einer wichtigen Aufgabe gearbeitet hatte, von der Liste der Mitautoren auszuschließen. Buckmaster äußerte auch Bedenken, dass OpenAI möglicherweise Materialien, die von Wissenschaftlern in das Codex-System hochgeladen wurden, verwendet haben könnte, um während langwieriger Berechnungen einen eigenen bahnbrechenden Beweis zu erhalten.

Als Antwort auf die wachsende Kritik von Forschern des California Institute of Technology (Caltech) gab OpenAI am Donnerstag bekannt, dass es die Sponsoring-Zusage für eine geplante mathematische Veranstaltung, die von dieser Hochschule organisiert wurde, zurückzieht.

Befürworter von KI betonen, dass die Fähigkeit von Modellen, äußerst komplexe ungelöste Probleme zu lösen, der Menschheit enorme Vorteile bringen kann. Die Verfasser des Schreibens sind jedoch der Meinung, dass solche Errungenschaften nur dann von Bedeutung sein werden, wenn die Ergebnisse von Mathematikern verstanden, überprüft und erklärt werden können und dann einem breiteren Publikum vermittelt werden.

In dem Schreiben wird darauf hingewiesen, dass oft Ankündigungen neuer Lösungen hastig gemacht werden, ohne angemessene Gestaltung, ohne Hervorhebung der Schlüsselmethoden und ohne Verweis auf frühere Arbeiten. Dies wirft ernsthafte Fragen zur Urheberschaft und möglichem Plagiat auf und gefährdet die Wissensweitergabe, die für die mathematische Kultur charakteristisch ist.

Andere Wissenschaftler fragen sich zunehmend, ob OpenAI Informationen über ihre Interaktionen mit Codex beim Training neuer Modelle verwendet haben könnte. Die reale Gefahr besteht darin, dass die offene Forschungskultur durch Geheimhaltung ersetzt werden könnte: Ein großes KI-Labor, das einen vielversprechenden Weg zur Beweisführung entdeckt, könnte Dutzende Millionen Dollar in die Entwicklung von Sprachmodellen investieren und als erstes das Ergebnis veröffentlichen, während die ursprünglichen Forscher im Schatten bleiben.

Der Brief folgte der sogenannten Leyden-Deklaration, die im Juni von einer Arbeitsgruppe von Wissenschaftlern veröffentlicht wurde. In der Deklaration wurden potenzielle Änderungen in der Arbeit von Mathematikern diskutiert, die mit Beweisen zusammenhängen, die mit Hilfe großer Sprachmodelle gewonnen wurden, und es wurden Empfehlungen für Forscher, Bildungseinrichtungen und staatliche Stellen vorgeschlagen.

Somit geht das Problem über einen einzelnen Konflikt zwischen OpenAI und einzelnen Wissenschaftlern hinaus. Es betrifft die grundlegende Frage, wie Offenheit, Transparenz und kollektive Natur des wissenschaftlichen Prozesses in einer Ära bewahrt werden können, in der leistungsstarke KI-Systeme Ergebnisse schneller und kostengünstiger generieren können, aber ohne menschliche Kontrolle könnten sie unverständlich und unzugänglich für die weitere Entwicklung bleiben.

Quelle: 3DNews