Ein Mitarbeiter von Google DeepMind verlässt das Unternehmen aus Angst vor der beschleunigten Entwicklung von KI
- Robert O'Callahan hat Google DeepMind wegen des schnellen Tempos der KI verlassen
- Er hält die Entwicklung von KI für zu schnell und verantwortungslos
- Der Weggang fügt der Liste von Fachleuten hinzu, die sich um die Risiken von KI sorgen
- O'Callahan hebt das reale, aber unbestimmte Risiko von ASI hervor
Robert O'Callahan, Ingenieur bei Google DeepMind, hat seinen Austritt aus dem Unternehmen über einen Post in dem sozialen Netzwerk X bekannt gegeben. Seinen Angaben zufolge arbeitete das Team an der Entwicklung spezialisierter Chips, die die Leistung von KI-Modellen beschleunigen und deren Kosten senken sollen, jedoch überschreiten die Fortschritte in der Technologie seiner Meinung nach die vernünftigen Grenzen.
In seinem persönlichen Blog veröffentlichte O'Callahan einen Brief, den er am Freitag an Kollegen geschickt hatte, in dem er betonte, dass er die potenziellen Folgen seiner Arbeit nicht "ignorieren" könne. Er wies darauf hin, dass seine christlichen Überzeugungen es ihm nicht erlauben, Projekte zu unterstützen, die Menschen schaden könnten, und nannte einen solchen Ansatz "von Natur aus verantwortungslos".
Der Autor des Briefes bemerkte, dass er seine Kollegen liebt und die Möglichkeit schätzt, interessante Aufgaben zu lösen, jedoch der Meinung ist, dass das Ziel der Beschleunigung und Kostensenkung von KI schädlich für die Gesellschaft sein könnte. Seinen Worten nach entwickelt sich die KI "zu schnell", und die Richtung, in die sich die Industrie bewegt, wirft ernsthafte Zweifel auf.
Business Insider konnte nicht klären, wie lange O'Callahan bei Google gearbeitet hat, und Unternehmensvertreter lehnten einen Kommentar ab. Der Mitarbeiter selbst, so seine Aussage, lebt in Neuseeland und bot den Journalisten an, den vollständigen Text des Blogs für weitere Details zu lesen.
Trend zu Abgängen aus der Branche
Der Abgang von O'Callahan ergänzt die Liste der Fachleute, die große KI-Unternehmen aufgrund von Bedenken hinsichtlich der Sicherheit der Technologien verlassen haben. Anfang dieses Monats verließ Jacob Coxon Anthropic und verwies auf die Unmöglichkeit, zukünftige KI-Systeme zu kontrollieren. Im letzten Monat verließ auch der ehemalige DeepMind-Forscher Bilal Chughtai das Unternehmen, da er befürchtete, dass der Menschheit nicht genug Zeit bleibt, um potenzielle Schäden durch KI zu verhindern.
Im Gegensatz zu einigen Kollegen behauptet O'Callahan nicht, dass ein katastrophales Szenario mit künstlicher Superintelligenz (ASI) unvermeidlich ist. Er hält das Risiko für real, aber ungewiss, und betont die moralische Verpflichtung der Branche, es zu minimieren. Seiner Meinung nach erreicht die Wahrscheinlichkeit einer vollständigen Katastrophe nicht 100 %, jedoch wird das Streben nach der Schaffung von ASI in naher Zukunft bereits als verantwortungslos angesehen.
O'Callahan wies auch die Hypothese zurück, dass Warnungen vor KI-Gefahren aus Gründen der Aktienkurssteigerung oder zur Beseitigung von Wettbewerbern durch Regulierung geschürt werden. Er äußerte Vertrauen in die Aufrichtigkeit derjenigen, die Sicherheitsfragen aufwerfen, und forderte eine ernsthaftere öffentliche Diskussion über die Zukunft der künstlichen Intelligenz.
Quelle: 3DNews
