Співробітник Google DeepMind йде, побоюючись прискореного розвитку ІІ
- Robert O'Callahan покинув Google DeepMind через швидкі темпи ІІ
- Він вважає розвиток ШІ занадто швидким і безвідповідальним
- Вихід додає до списку спеціалістів, які побоюються ризиків ШІ
- O'Callahan підкреслює реальний, але невизначений ризик ASI
Роберт О'Каллаган, інженер підрозділу Google DeepMind, оголосив про свій вихід з компанії через пост у соціальній мережі X. За його словами, команда займалася розробкою спеціалізованих чіпів, які дозволяють прискорити роботу ІІ‑моделей і знизити їх вартість, однак темпи розвитку технології, на його думку, перевищують розумні межі.
У особистому блозі O'Callahan опублікував лист, надісланий колегам у п'ятницю, де підкреслив, що не може «закривати очі» на потенційні наслідки своєї роботи. Він зазначив, що його християнські переконання не дозволяють йому підтримувати проекти, які можуть завдати шкоди людям, і назвав такий підхід «по своїй суті безвідповідальним».
Автор листа зазначив, що любить своїх колег і цінує можливість вирішувати цікаві завдання, однак вважає, що мета прискорення і здешевлення ІІ може виявитися шкідливою для суспільства. За його словами, розвиток ІІ йде «занадто стрімко», а напрямок, в якому рухається індустрія, викликає серйозні сумніви.
Business Insider не зміг уточнити, як довго O'Callahan працював у Google, а представники компанії відмовилися від коментарів. Сам співробітник, за його словами, проживає в Новій Зеландії і запропонував журналістам ознайомитися з повним текстом блогу для отримання додаткових деталей.
Тенденція уходів з галузі
Вихід O'Callahan поповнює список фахівців, які покинули великі AI‑компанії через побоювання за безпеку технологій. На початку цього місяця з Anthropic звільнився Jacob Coxon, пославшись на неможливість контролювати майбутні ІІ‑системи. Минулого місяця колишній дослідник DeepMind Bilal Chughtai також покинув компанію, побоюючись, що людству не вистачить часу, щоб запобігти потенційній шкоді від ІІ.
На відміну від деяких колег, O'Callahan не стверджує, що катастрофічний сценарій з штучним надінтелектом (ASI) неминучий. Він вважає ризик реальним, але невизначеним, і підкреслює моральний обов'язок індустрії мінімізувати його. На його думку, ймовірність повної катастрофи не досягає 100 %, однак прагнення до створення ASI в найближчому майбутньому вже вважається безвідповідальним.
O'Callahan також отверг гипотезу о том, что предупреждения об опасностях ИИ подогреваются ради повышения стоимости акций или устранения конкурентов через регулирование. Он выразил уверенность в искренности тех, кто поднимает вопросы безопасности, и призвал к более серьёзному общественному обсуждению будущего искусственного интеллекта.
Джерело: 3DNews
