回复
OpenAI“宫斗”番外！首席科学家Ilya官宣离职，参与驱逐奥特曼“宫斗”后沉寂5月首发声！ 原创
编辑 | 伊风
出品 | 51CTO技术栈（微信号：blog51cto）
谷歌I/O大会的主题演讲刚刚结束四个小时。正当人们把目光从GPT-4o中恋恋不舍地移开，转到Gemini上时。OpenAI又跑来“搞事”了！
自之前“宫斗”后就行踪成谜的首席科学家Ilya Sutskever，在X上宣布自己将离职，投入到一个对自己有意义重大的新项目中，并可能在时机合适时透露相关细节！
紧接着，奥特曼也发文表达了对Ilya的感谢与不舍，并宣布将由Jakub Pachocki接棒担任OpenAI的首席科学家。
图片
“伊利亚和OpenAI即将分道扬镳。这对我来说非常悲伤；伊利亚无疑是我们这一代最伟大的头脑之一，是我们领域的指路明灯，也是一位亲爱的朋友。他的才华和远见众所周知；他的温暖和同情心不那么广为人知，但同样重要。
没有他，OpenAI就不会是今天的样子。尽管他有自己个人意义重大的事情要去做，我将永远感激他在这里所做的一切，并致力于完成我们一起开始的使命。我很高兴能有如此长时间接近这样一位真正卓越的天才，以及一个如此专注于为人类带来最佳未来的人物。
雅库布将成为我们的新首席科学家。雅库布也无疑是我们这一代最伟大的头脑之一；我很高兴他在这里接过接力棒。他负责了许多我们最重要的项目，我非常相信他将带领我们快速且安全地朝着确保通用人工智能(AGI)惠及每个人的使命前进。”
伊利亚还晒出一张OpenAI leader们的合照。
图片
在这张照片中，伊利亚本人站在中间。从左向右依次参与合照的是，新上任的首席科学家Jakub，联合创始人Greg Brockman，OpenAI CEO Altman及OpenAI CTO Mira Murati。
此前，一直有传言说伊利亚的消失是因为他“撞见”了Q*。现在伊利亚突然的现身让人倍感意外。
翻一翻伊利亚的X账户，发现距离他上一次更新转帖过去了足足5个月，更加戏剧性的是，这篇帖子的主题是“超级对齐”的资金将帮助人们更好监督AI安全性的。
图片
一、宫斗回顾：超级对齐与Q*传闻
在伊利亚现身以后，网友评论道：很高兴看到他还活着！
图片
从奥特曼的角度来看，OpenAI的宫斗史正是由伊利亚的一封短信拉开大幕的。
2023年11月16日周四（当地时间），奥特曼收到了要求周五中午进行谈话的消息。从后面发生的事情来看，这封短信正是董事会即将采取行动的前兆。
紧接着11月17日的谈话中，伊利亚告诉奥特曼他被解雇了。随后，时任总裁的Greg Brockman也接到了短信和电话，被告知他本人已经被董事会除名（但职位保留），同时奥特曼已经被解雇。
经过奥特曼等数位高管的辞职、谈判失败、出走微软等反转再反转之后，奥特曼重回OpenAI，而伊利亚却不知去向。
结合事后所浮出的内幕细节，伊利亚很可能是最初推动奥特曼被罢免的“牵头者”。在奥特曼（Sam Altman）被罢免的前几天，OpenAI的几位研究人员曾向董事会发出了警告，他们表示发现了一种强大的人工智能技术，可能对人类构成威胁。
这个“很强大的人工智能技术”，也就是被广为人知的“Q*”。
人们认为正是因为伊利亚看到了这项恐怖的技术，从而促使他推动董事会解雇奥特曼。而从这次宫斗以后“what did Ilya see”就变成了一个经久不衰的AI梗。以至于在奥特曼官宣伊利亚离开的推文下，仍有网友在追问不休。
图片
根据资料，Q*技术的名字暗示了它结合了两种著名的人工智能技术：Q-Learning和A*搜索算法。
这意味着新模型能够将支持ChatGPT的深度学习技术与人类编程的规则相结合。Q*技术将推动通用人工智能（AGI）的进步，它绝对比我们目前所认为的智能更接近了一步，并且有可能使模型能够产生新的想法，这是ChatGPT所做不到的。
一些AI专家表示，如果Q*技术目前只相当于一个小学生的水平，但其拥有的潜力可能使其未来能够影响整个世界。
而伊利亚正是对这项技术持谨慎态度的人，此前他领导OpenAI 超级对齐团队，为OpenAI开发安全、有益的人工智能（AGI）的方法负责。该团队的工作重点是确保先进的人工智能系统与人类的价值观和利益保持一致，当时已成为 OpenAI 的首要任务之一。
然而在OpenAI这项任务其实充满了挑战：确保人工智能与人类价值观保持一致与技术加速所带来的盈利潜力是相冲突的。
在宫斗的尾声，伊利亚曾表示他对参与董事会行动的后悔。
图片
就在几个月前，奥特曼参与博客采访时，被问到过伊利亚的近况，他称赞伊利亚的长处，说他是能看到一项技术在未来十年中发展的人。
二、接棒首席科学家岗位的Jakub：对GPT-4有贡献，曾追随奥特曼辞职
新出任首席科学家的雅库布（Jakub）是一个陌生的名字，就像伊利亚去年曾在推文中说的那样，他的才华和贡献不那么为人所知。
图片
伊利亚发布离开推文后，雅库布也进行了转发，称伊利亚为“导师和出色的合作伙伴”，并真诚表达了对伊利亚的感谢与一同共事时光的怀念。
图片
雅库布是有实力接替伊利亚工作的人，自2017年加入OpenAI后，他“一直领导着变革性研究计划”。OpenAI的官方通知中写到，“ 雅库布曾担任研究总监，领导 GPT-4 和 OpenAI Five 的开发，以及大规模 RL 和深度学习优化方面的基础研究。”
在担任首席科学家前，他在OpenAI担任过一系列的重要职位：
- Dota 团队的研究带头人（2017年2月 - 2019年3月）
- 推理团队的研究带头人（2019年3月 - 2021年3月）
- 深度学习科学团队的研究带头人（2021年3月 - 2022年7月）
- 研究负责人（2021年11月 - 2023年10月）
- 研究主管（2023年10月 - 2024年5月）
在去年OpenAI宫斗风波期间，雅库布担任着研究主管一职。
在奥特曼与Brockman相继离开OpenAI时，他与OpenAI其他的两位高级研究人员Aleksander Madry、Szymon Sidor同时宣布辞职。
如今，他的上任，恐怕就是OpenAI宫斗最后的尾声了。而伊利亚究竟看到了什么，仿佛一个永远没有答案的开放式问题。
图片
三、两大关键人物离去，超级对齐团队名存实亡
Sutskever 离职后不久，他的同事、OpenAI "超对齐 "团队的联合负责人 Jan Leike 也跟随他在同一天宣布离职。
图片
OpenAI的AI研究团队正在经历新一波的动荡，许多人对OpenAI是否能引导安全、有益的AGI感到失望。此前，OpenAI 选择将其 20% 的计算专用于超级对齐，以控制未来超人类智能可能存在的潜在风险。
也有离开OpenAI离开的员工在X上表达对奥特曼的不满。（“限制线性代数”暗示奥特曼参与公共讨论和政策倡导活动，以推动对人工智能领域技术使用的监管或限制。）
图片
现在，超级对齐团队的两位共同领导者都已离职，问题就在于这项事业是否会继续下去，以及以何种身份继续下去。在AI算力见顶的时刻，20%的计算是否会被挪用到更加“实际”的领域中，例如AI训练。
有些人认为，伊利亚是一个所谓的 "道学家"，或者说他关注的是人工智能给人类带来生存风险的能力（也被称为 "X 风险"）。
然而，分析专家说，Altman 和 OpenAI 的其他人并不像伊利亚那样关注 x 风险。
所以，也许对人类命运关注较少的那一派胜出了。
至此，OpenAI的联合创始人马斯克、GPT-3.5-4.0核心人物伊利亚、以及开源巨头 Karpathy 都相继离开了这家公司。
GPT的发明之所以能够实现，是因为谷歌将Transformers的学术成果贡献出来，才能让更多的人站到了巨人的肩膀上。而OpenAl，作为得利的创新者，正试图改变游戏的规则，将新的成果据为己有。
尽管伊利亚与OpenAI的故事结束了，但这位“AI Uncle”自己的故事正刚刚要开始。
也许，在不久的将来，这个意义重大的个人项目，能让这位沉寂了5个月的AI天才重返大众视野，让他怀揣着AGI信仰，继续发热发光。
本文转载自51CTO技术栈，作者：伊风
©著作权归作者所有，如需转载，请注明出处，否则将追究法律责任
赞
收藏
回复
相关推荐
