AI 教父辛顿谈诺奖与 “宫斗”：学生开除阿尔特曼,AI 安全成焦点
辛顿的自豪
刚获得 2024 年度诺贝尔物理学奖的加拿大多伦多大学教授杰弗里・辛顿（Geoffrey Hinton）,在 10 月 9 日接受直播群访时分享了他的喜悦。他表示,“我有很多非常聪明的学生,比我聪明得多,他们做了许多实事,事业伟大。我特别自豪的是,我的一个学生开除了萨姆・阿尔特曼。”
学生 Ilya Sutskever 的角色
辛顿提到的这名学生正是 OpenAI 的前首席科学家 Ilya Sutskever。Sutskever 是 OpenAI 的联合创始人之一,也是 2023 年底 OpenAI 高层 “宫斗” 大戏中的主角之一。当时,OpenAI 董事会投票解雇了时任 CEO 阿尔特曼,而 Sutskever 通过视频电话向阿尔特曼传达了这一消息。尽管事后 Sutskever 表示后悔,但辛顿似乎认为,解雇阿尔特曼是 AI 安全领域的胜利。不过,阿尔特曼几天后便重回 CEO 职位。
辛顿的自豪
刚获得 2024 年度诺贝尔物理学奖的加拿大多伦多大学教授杰弗里・辛顿（Geoffrey Hinton）,在 10 月 9 日接受直播群访时分享了他的喜悦。他表示,“我有很多非常聪明的学生,比我聪明得多,他们做了许多实事,事业伟大。我特别自豪的是,我的一个学生开除了萨姆・阿尔特曼。”
学生 Ilya Sutskever 的角色
辛顿提到的这名学生正是 OpenAI 的前首席科学家 Ilya Sutskever。Sutskever 是 OpenAI 的联合创始人之一,也是 2023 年底 OpenAI 高层 “宫斗” 大戏中的主角之一。当时,OpenAI 董事会投票解雇了时任 CEO 阿尔特曼,而 Sutskever 通过视频电话向阿尔特曼传达了这一消息。尽管事后 Sutskever 表示后悔,但辛顿似乎认为,解雇阿尔特曼是 AI 安全领域的胜利。不过,阿尔特曼几天后便重回 CEO 职位。
人工智能安全的担忧
在新闻发布会上,辛顿还谈到了他对人工智能安全的担忧。他表示,人工智能的发展可能会对人类造成威胁,因此呼吁对人工智能安全进行更多的研究。“当我们得到比我们更聪明的东西时,没有人真正知道我们是否能够控制它们,” 辛顿说。他承诺将致力于倡导人工智能安全,而不是领导前沿研究。
对阿尔特曼的评价
辛顿还表示,他认为阿尔特曼对利润的关注超过了对安全的关注,这是不幸的。辛顿的这番话无疑为 AI 安全问题敲响了警钟,也为行业内的讨论提供了新的视角。
总结
杰弗里・辛顿不仅在学术领域取得了卓越成就,还在人工智能安全方面发出了重要声音。他对学生 Ilya Sutskever 的自豪,以及对萨姆・阿尔特曼的批评,展示了他对人工智能未来发展的深刻思考。辛顿的观点提醒我们,在追求技术进步的同时,安全问题同样不容忽视。