Google DeepMind 员工离职，担心人工智能的加速发展

• Robert O'Callahan 因 AI 的快速发展离开了 Google DeepMind
• 他认为人工智能的发展太快且不负责任
• 离职增加了对人工智能风险感到担忧的专家名单
• O'Callahan强调了真实但不确定的ASI风险

谷歌DeepMind部门的工程师罗伯特·奥卡拉汉通过社交媒体X宣布他将离开公司。他表示，团队一直在开发专用芯片，以加速AI模型的工作并降低其成本，但他认为技术的发展速度已经超出了合理的界限。

在个人博客中，O'Callahan 发布了一封周五发送给同事的信，强调他无法“视而不见”自己工作的潜在后果。他指出，他的基督教信仰不允许他支持可能对人造成伤害的项目，并称这种做法“本质上是不负责任的”。

作者在信中提到，他爱自己的同事，并珍惜解决有趣问题的机会，但他认为加速和降低人工智能成本的目标可能对社会有害。他表示，人工智能的发展“过于迅速”，而行业发展的方向引发了严重的怀疑。

《商业内幕》未能确认O'Callahan在谷歌工作的时间，公司的代表拒绝发表评论。根据他自己的说法，这位员工居住在新西兰，并建议记者查看博客的完整文本以获取更多细节。

行业离职趋势

O'Callahan的离职增加了因对技术安全的担忧而离开大型AI公司的专家名单。本月初，Jacob Coxon因无法控制未来的AI系统而辞去了Anthropic的职务。上个月，前DeepMind研究员Bilal Chughtai也因担心人类没有足够的时间来防止AI可能造成的伤害而离开了公司。

与某些同事不同，O'Callahan并不认为人工超智能（ASI）灾难性场景是不可避免的。他认为风险是真实的，但不确定，并强调行业有道德责任去最小化它。在他看来，完全灾难的概率并未达到100%，然而在不久的将来追求创建ASI已被视为不负责任。

O'Callahan 还否认了关于 AI 危险警告是为了提高股票价格或通过监管消除竞争对手的假设。他对提出安全问题的人的真诚表示了信心，并呼吁对人工智能的未来进行更严肃的公共讨论。

来源：3DNews