Сотрудник Google DeepMind уходит, опасаясь ускоренного развития ИИ
- Robert O'Callahan ушёл из Google DeepMind из‑за быстрых темпов ИИ
- Он считает развитие ИИ слишком быстрым и безответственным
- Уход добавляет к списку специалистов, опасающихся рисков ИИ
- O'Callahan подчёркивает реальный, но неопределённый риск ASI
Robert O'Callahan, инженер подразделения Google DeepMind, объявил о своём уходе из компании через пост в социальной сети X. По его словам, команда занималась разработкой специализированных чипов, позволяющих ускорить работу ИИ‑моделей и снизить их стоимость, однако темпы развития технологии, по его мнению, превышают разумные границы.
В личном блоге O'Callahan опубликовал письмо, отправленное коллегам в пятницу, где подчеркнул, что не может «закрывать глаза» на потенциальные последствия своей работы. Он указал, что его христианские убеждения не позволяют ему поддерживать проекты, которые могут нанести вред людям, и назвал такой подход «по своей сути безответственным».
Автор письма отметил, что любит своих коллег и ценит возможность решать интересные задачи, однако считает, что цель ускорения и удешевления ИИ может оказаться вредной для общества. По его словам, развитие ИИ идёт «слишком стремительно», а направление, в котором движется индустрия, вызывает серьёзные сомнения.
Business Insider не смог уточнить, как долго O'Callahan работал в Google, а представители компании отказались от комментариев. Сам сотрудник, по его словам, проживает в Новой Зеландии и предложил журналистам ознакомиться с полным текстом блога для получения дополнительных деталей.
Тенденция уходов из отрасли
Уход O'Callahan пополняет список специалистов, покинувших крупные AI‑компании из-за опасений за безопасность технологий. В начале этого месяца из Anthropic уволился Jacob Coxon, сославшись на невозможность контролировать будущие ИИ‑системы. В прошлом месяце бывший исследователь DeepMind Bilal Chughtai также покинул компанию, опасаясь, что человечеству не хватит времени, чтобы предотвратить потенциальный вред от ИИ.
В отличие от некоторых коллег, O'Callahan не утверждает, что катастрофический сценарий с искусственным сверхинтеллектом (ASI) неизбежен. Он считает риск реальным, но неопределённым, и подчёркивает моральную обязанность индустрии минимизировать его. По его мнению, вероятность полной катастрофы не достигает 100 %, однако стремление к созданию ASI в ближайшем будущем уже считается безответственным.
O'Callahan также отверг гипотезу о том, что предупреждения об опасностях ИИ подогреваются ради повышения стоимости акций или устранения конкурентов через регулирование. Он выразил уверенность в искренности тех, кто поднимает вопросы безопасности, и призвал к более серьёзному общественному обсуждению будущего искусственного интеллекта.
Источник: 3DNews
