Un employé de Google DeepMind part, craignant le développement accéléré de l'IA
- Robert O'Callahan a quitté Google DeepMind en raison du rythme rapide de l'IA
- Il considère que le développement de l'IA est trop rapide et irresponsable.
- Le départ ajoute à la liste des spécialistes qui craignent les risques de l'IA
- O'Callahan souligne le risque réel mais indéfini de l'ASI
Robert O'Callahan, ingénieur au sein de Google DeepMind, a annoncé son départ de l'entreprise via un post sur le réseau social X. Selon lui, l'équipe travaillait sur le développement de puces spécialisées permettant d'accélérer le fonctionnement des modèles d'IA et de réduire leurs coûts, cependant, le rythme de développement de la technologie, selon lui, dépasse des limites raisonnables.
Dans son blog personnel, O'Callahan a publié une lettre envoyée à ses collègues vendredi, où il a souligné qu'il ne pouvait pas « fermer les yeux » sur les conséquences potentielles de son travail. Il a indiqué que ses convictions chrétiennes ne lui permettaient pas de soutenir des projets qui pourraient nuire aux gens, et a qualifié cette approche de « fondamentalement irresponsable ».
L'auteur de la lettre a noté qu'il aime ses collègues et apprécie la possibilité de résoudre des tâches intéressantes, mais il estime que l'objectif d'accélérer et de réduire le coût de l'IA pourrait être nuisible à la société. Selon lui, le développement de l'IA progresse « trop rapidement », et la direction dans laquelle l'industrie se dirige soulève de sérieuses inquiétudes.
Business Insider n'a pas pu préciser combien de temps O'Callahan a travaillé chez Google, et les représentants de l'entreprise ont refusé de commenter. Selon ses dires, l'employé vit en Nouvelle-Zélande et a proposé aux journalistes de consulter le texte complet du blog pour plus de détails.
Tendance des départs de l'industrie
Le départ d'O'Callahan ajoute son nom à la liste des spécialistes ayant quitté de grandes entreprises d'IA par crainte pour la sécurité des technologies. Au début de ce mois, Jacob Coxon a quitté Anthropic, citant l'impossibilité de contrôler les futurs systèmes d'IA. Le mois dernier, l'ancien chercheur de DeepMind, Bilal Chughtai, a également quitté l'entreprise, craignant que l'humanité n'ait pas le temps d'empêcher les dommages potentiels causés par l'IA.
Contrairement à certains de ses collègues, O'Callahan ne soutient pas que le scénario catastrophique d'une superintelligence artificielle (ASI) est inévitable. Il considère le risque comme réel, mais incertain, et souligne le devoir moral de l'industrie de le minimiser. Selon lui, la probabilité d'une catastrophe totale n'atteint pas 100 %, cependant, l'aspiration à créer une ASI dans un avenir proche est déjà considérée comme irresponsable.
O'Callahan a également rejeté l'hypothèse selon laquelle les avertissements concernant les dangers de l'IA sont alimentés par la volonté d'augmenter la valeur des actions ou d'éliminer des concurrents par le biais de la réglementation. Il a exprimé sa confiance dans la sincérité de ceux qui soulèvent des questions de sécurité et a appelé à un débat public plus sérieux sur l'avenir de l'intelligence artificielle.
Source : 3DNews
