突发!OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

人工智能
一位是失踪的首席科学家Ilya盟友,超级对齐(Superalignment)团队核心成员Leopold Aschenbrenner。另一位也不简单,是LLM推理团队研究员Pavel Izmailov,曾经也在超级对齐团队干过。

突发!OpenAI开人了,理由:涉嫌信息泄露。

一位是失踪的首席科学家Ilya盟友,超级对齐(Superalignment)团队核心成员Leopold Aschenbrenner。

另一位也不简单,是LLM推理团队研究员Pavel Izmailov,曾经也在超级对齐团队干过。

目前尚不清楚这俩人到底泄露了啥信息。

消息被曝出后,不少网友表示“挺震惊”:

不久前我还看过Aschenbrenner的帖子,感觉他正处于事业上升期,没想到会有这样的转变。

图片图片

还有网友认为:

OpenAI失去Aschenbrenner,Ilya Sutskever也被边缘化,该公司对于构建安全AI的承诺看起来更加不可信了。

图片图片

OpenAI人才流动,与谷歌Meta互挖墙脚已经见怪不怪,但开除形式的人事调动,还是去年11月董事会叛变之后的第一回。

俩人曾经都是Ilya的部下

据了解,Leopold Aschenbrenner于一年前加入OpenAI。此前他曾在Future Fund工作过,再往前追溯,19岁从哥伦比亚大学毕业,还在牛津大学做过经济增长方面的研究。

Pavel Izmailov这边,他还是纽约大学CILVR小组成员,本人透露2025年秋将加入纽约大学Tandon CSE、Courant CS担任助理教授。

目前,俩人的X主页还都备注着与OpenAI的关系。

图片图片

图片图片

最近这个月俩人都没有发新推文,不过置顶帖子倒是很亮眼。

图片

没错,都是超级对齐团队的第一篇论文,俩人都是这篇论文的作者。

图片

这就不得不说到这个团队,组团于去年7月份,是OpenAI为应对不同时间尺度上大模型可能会产生的安全问题,成立的三大安全团队之一。

图片图片

超级对齐团队负责遥远的未来,给超越人类的超级智能安全性奠定基础,由Ilya Sutskever和Jan Leike领导。

虽然OpenAI看起来似乎在安全方面很重视,但其内部对AI的安全开发存在很大分歧已不是什么秘密。

这种分歧甚至被认为是去年11月OpenAI董事会内讧的最大原因:

图片图片

网传Ilya Sutskever成为“政变”带头人,就是因为看到了一些东西让他内心不安。

而Ilya带领的这个超级对齐团队,很多成员也是站在Ilya这边,在后来支持奥特曼的比心接龙活动中,这个超级对齐团队成员也基本保持了沉默。

图片图片

随着OpenAI内讧事件的平息,奥特曼成为赢家,Ilya Sutskever离开董事会几乎没再公开露头,超级对齐团队现在是个什么情况咱也不知道。

再说回到这次两位研究员被解雇。

两人曾经都是Ilya部下,the information还表示Aschenbrenner是Ilya盟友、与优先考虑解决AI危险性的运动有关联。

所以,也有网友猜测这次裁员是奥特曼的“秋后算账”。

和Q*泄密有关?

除此之外,网友比较关心还有泄密的内容究竟是什么。

目前猜测的焦点还是放在Q*,也就是董事会叛变大戏的导火索之一。

根据网友评论,Jimmy apples似乎发过相关推文,但没过多久我们看到链接打开时已是推文被删的大状态……

图片图片

从遗留的蛛丝马迹来看,好像大概也许还是和Q*有关。

图片图片

目前Q*从传闻,已经变成被正式确认的存在,但关于它的一切,奥特曼本人目前都守口如瓶。

图片图片

总之自从Q*之后,OpenAI内部开始出现理念分歧。

经历一系列风波后,93%的员工签署联名信与奥特曼共存亡,调查结果公布后奥特曼无罪重返董事会。

看似风平浪静,上下一心致力于实现AGI背后,裂痕仍旧存在。

参考链接:
[1]https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking
[2]https://x.com/BenjaminDEKR/status/1778536771837694353
[3]https://twitter.com/leopoldasch
[4]https://twitter.com/Pavel_Izmailov
[5]https://www.reddit.com/r/singularity/comments/1c1qo04/openai_superalignment_researcher_fired_for/

责任编辑:武晓燕 来源: 量子位
相关推荐

2024-04-15 06:30:00

2023-11-19 21:29:19

ChatGPTOpenAI

2024-05-15 09:28:01

2023-11-18 09:09:44

OpenAI微软

2023-06-30 13:58:28

互联网数据

2023-04-25 07:00:20

2023-12-04 08:33:05

2023-11-18 09:29:55

AI数据

2024-03-07 12:30:30

2020-06-19 14:55:14

信息泄漏恶意软件攻击

2024-09-26 08:21:41

2024-07-26 09:29:38

2023-11-22 14:17:00

OpenAI企业

2024-05-15 10:38:55

OpenAIGPT-4oIlya

2024-05-27 13:08:41

2024-11-12 13:07:44

2024-10-05 11:03:10

2024-01-08 07:59:48

OpenAI人工智能AI

2012-11-05 10:33:24

创业员工程序员

2024-06-20 10:36:21

点赞
收藏

51CTO技术栈公众号