大数据文摘出品
作者：Caleb
ChatGPT现在有多火相信大家已经是有目共睹。
根据ARK风险投资公司首席未来学家Brett Winton统计的数据，ChatGPT日活量突破千万，只用了不到两个月的时间。作为对照，上一个现象级软件Instagram达到这一成就花了355天。
1月中旬，《纽约时报》报道称，北密歇根大学的哲学教授Antony Aumann在世界宗教课程评分时，惊喜地读到了一篇“全班最好的论文”。学生用简洁的段落、恰当的举例和严谨的论据，探讨了罩袍禁令的道德意义。然而，在Aumann的追问之下，学生承认论文用ChatGPT写的。
类似的例子还有很多。
也正是随着ChatGPT在全球范围内的爆火，OpenAI也被迅速推到了舆论的“风口浪尖”。
可以说，OpenAI目前处于聊天机器人军备竞赛的领头地位。单以ChatGPT为例，公开发布和微软数十亿美元的合作不仅刺激了谷歌和亚马逊紧急在产品线中布局人工智能，OpenAI还与贝恩合作，将机器学习引入可口可乐的运营，并计划扩展到其他企业合作伙伴。
毫无疑问，OpenAI的人工智能已经成了笔大生意，但其实这与OpenAI最初的计划有些出入。
“人类的未来应该由人类来决定”
上周五，OpenAI首席执行官Sam Altman发表了一篇博文，题为“规划AGI和超越”（Planning for AGI and beyond）。
文章链接：https://openai.com/blog/planning-for-agi-and-beyond
在文章中，他宣称OpenAI的通用人工智能（AGI）目前还远没达到要求，许多人怀疑它能否造福全人类，是否“有可能给每个人带来令人难以置信的新能力”。
Altman用一种宽泛的、理想主义的语言来论证人工智能的发展不应停止，“人类的未来应该由人类来决定”，这里暗暗指向了OpenAI。
几乎是在ChatGPT爆火的周期内，这篇博文和OpenAI近期的行动不断提醒着大家，OpenAI的基调和使命与它成立时相比发生了多大的变化。
成立初期的OpenAI只是一个非营利组织。虽然公司一直着眼于AGI发展，但成立时他们承诺不追求利润，免费分享开发代码。
而今天，这些承诺已经无处可寻。
OpenAI的动力变成了速度和利润
2015年，Altman、马斯克、Peter Thiel、Reid Hoffman宣布成立一家非营利性研究机构OpenAI。在成立声明中，OpenAI宣布，研究承诺“以最有可能造福全人类的方式推进人工智能，不受产生经济回报的限制”。该博客还称，“由于我们的研究没有财务义务，可以更好地专注于对人类的积极影响”，并鼓励所有研究人员分享“论文、博客文章或代码，我们的专利（如果有的话）将与世界共享”。
8年后，我们面对的是一家既不透明也不以积极的人类影响为动力的公司。相反，正如包括马斯克在内的许多批评者所认为的那样，OpenAI的动力变成了速度和利润。
同时，OpenAI正在释放技术。当然其中存在缺陷，但仍准备以牺牲人类员工为代价增加工作场所的自动化转变。例如，谷歌强调了自动完成代码的人工智能带来的效率提升，从而导致数千名工人被裁。
OpenAI初期，媒体与从业者们都将其设想为以开放的方式进行基础人工智能研究，目的不确定。联合创始人Greg Bockman曾说：“我们现在的目标......是做最好的事情。这有点模糊不清”。
这也无形之中促成了公司在2018年方向的转变。当时，OpenAI向资本资源寻求一些方向，“我们的主要受托责任是对人类。我们预计需要调集大量资源来完成我们的使命”。
到2019年3月，OpenAI已经完全摆脱了其非盈利的头衔，建立了一个“封顶利润（capped profit）”部门。这使得OpenAI开始接受投资，并会为投资者提供封顶为投资100倍的利润。
这项决定被视为是与谷歌等大科技公司的一次竞争，而不久后公司也如愿获得了微软10亿美元的投资。在宣布成立营利性公司的博文中，OpenAI继续使用相同的说法，宣称其使命是“确保通用人工智能惠及全人类”。
但正如Motherboard写道，当风险投资家的主要目标是利润时，很难相信他们能拯救人类。
OpenAI还值得公众的信任吗？
2019年，OpenAI宣布和发布GPT-2语言模型时面临了舆论反弹。
起初，该公司表示，由于“担心该技术的恶意应用”，它不会发布训练模型的源代码。虽然这在一定程度上反映了其对开发有益人工智能的承诺，但它也不是很“开放”。
批评者想知道为什么OpenAI会在宣布了一个工具之后却不发布，于是不少人认为这只是宣传噱头。直到三个月后，OpenAI才在GitHub上发布了该模型，并表示这一行动是“负责任地发布人工智能的一个重要基础，特别是在强大的生成模型方面”。
调查记者Karen Hao在2020年期间在公司内部待了几天，根据他的说法，OpenAI的内部文化开始不再反映谨慎的、研究驱动的人工智能开发过程，而是更注重出人头地，这也导致人们指责其助长了“人工智能炒作周期”。员工现在也被要求对手头的工作保持沉默，以遵守公司新的章程。
“公司公开支持的内容和闭门造车的方式之间存在着错位。随着时间的推移，它已经允许激烈的竞争和不断增加的资金压力侵蚀其透明、开放和合作的创始理想。”Hao写道。
但总的来说，GPT-2的推出对OpenAI而言无疑是一件值得庆祝的事，也是公司发展至今的重要基石。“这绝对是成功故事框架的一部分”，现任政策研究主管Miles Brundage在一次会议上说，“这一部分的剧情应该是这样的：我们做了一件雄心勃勃的事情，现在有些人正在复制它，这里还应该有一些对这项创新益处的解释”。
从那时起，OpenAI保留了GPT-2发布公式中的炒作部分，但取消了开放性。2020年，GPT-3正式推出，并迅速“独家”授权给微软。GPT-3的源代码仍未发布，尽管目前OpenAI已经在紧锣密鼓地筹备GPT-4了；该模型只是通过ChatGPT的API向公众开放，OpenAI还推出了一个付费层以保证对该模型的访问。
这样做当然是有一些考量。首先就是钱。OpenAI在API公告博客中表示，“将技术商业化有助于支付我们正在进行的人工智能研究、安全和政策工作”。第二个原因是偏向于帮助大公司。“除了大公司之外，任何人都很难从底层技术中获益”。最后，公司还表示，通过API而不是开源发布更安全，因为该公司可以应对滥用情况。
“你们一直告诉我们AGI快了，但在你们的网站上甚至没有一个一致的定义。”计算机科学家Timnit Gebru在推特上表示。
华盛顿大学语言学教授Emily M. Bender在推特上说，“他们不想解决实际世界中的实际问题（这将需要让出权力）。他们想相信自己是神，不仅可以创造一个‘超级智能’，而且有恩惠，以一种与人类‘一致’的方式这样做”。
这种人工智能是否会像该公司最初设想的那样，负责任地分享，公开开发，没有盈利动机？或者它是会被匆匆推出，有许多令人不安的缺陷，但主要是为OpenAI带来收益？OpenAI是否会将其科幻的未来保持在闭源状态？
结合了ChatGPT之后，微软的必应聊天机器人处于“走火入魔”的状态，不断欺骗和呵斥着用户，传播错误信息。OpenAI不能可靠地检测自己的聊天机器人生成的文本，尽管教育工作者对学生使用该应用程序作弊的情况越来越关注。
人们也已经轻易地对语言模型进行了越狱，无视OpenAI在其周围设置的护栏，机器人在输入随机的单词和短语时会崩溃。没有人能说清楚原因，因为OpenAI没有分享底层模型的代码，可能在某种程度上，OpenAI自己也不太可能完全理解它的工作原理。
考虑到这一切，我们都应该仔细考虑OpenAI是否值得它要求公众给予的信任，而对此，OpenAI没有做出任何实质性的回应。
