技术专家表示,OpenAI优先考虑的是投资者和利润,而非其利他意图。
自2022年11月人工智能工具ChatGPT推出以来,这项新技术展示了人工智能影响我们生活的力量和潜力。
Open AI(ChatGPT背后的公司)的首席执行官Sam Altman在本月初承认,他甚至对其公司正在开发的强大技术“有点害怕”。Altman预测,人工智能“将会淘汰很多现有的工作岗位”,但他也表示,这项技术对人类来说将是一个正面的影响,因为它有可能改变教育等行业。
但Sam Altman究竟是何方神圣?这项新技术的背后又是什么?
ChatGPT是一种人工智能聊天机器人,其核心功能是模仿人类对话。世界各地的用户都可以使用ChatGPT来写电子邮件、调试计算机程序、回答家庭作业问题、玩游戏、写故事和歌词等等。
Altman在最近接受ABC新闻采访时表示,“ChatGPT的出现将减少很多现有的工作岗位,这是事实。不过,我们可以做出更好的选择,让它对我们的生活产生更多积极影响,进一步改善我们的生活。开发人工智能的原因是,这将是人类迄今为止开发的最伟大的技术。这项技术的前景,其中最令我兴奋的是,它能够为每个学生提供个性化学习——非常棒的个性化学习。”
得益于该公司技术的巨大潜力,Altman在过去几年里进行了大量商业交易。
今年1月,OpenAI扩大了与微软的合作关系,后者将向OpenAI注资近100亿美元。作为这笔交易的结果,微软可能会在未来几年获得该公司的大部分利润(三年前,微软曾向OpenAI投资10亿美元)。
此外,微软正计划将该工具应用到其现有的生态系统中,用于进一步改善微软PowerPoint、Excel和Teams等软件。
尽管现金的涌入为该公司提供了更多的资源,但据报道,它已经分裂了300多名员工,并激怒了人工智能领域的一些人,他们认为,这家曾经的人道主义公司现在主要关心的是赚钱。
Mike Capps博士是Diveplane的联合创始人,这是一家位于北卡罗来纳州罗利的道德人工智能公司。他曾担任Epic Games的总裁,该公司开发了《堡垒之夜》和《战争机器》等游戏。他认为如果没有与微软的重要联系,OpenAI将不会取得如此成功,但他也对ChatGPT开发者所做的一些商业决策表示失望。
他表示,“我觉得他们有点像为了加快速度而出卖了灵魂,事实证明,他们确实做到了。”
商业巨头和人工智能研究人员还指出,OpenAI没有兑现将ChatGPT开源的承诺,允许企业和计算机科学家根据自己的喜好操纵和定制该工具,这是该公司越来越“以利润为中心”的心态的另一个迹象。
Capp补充道,“他们不停地发誓,他们会把所有东西都送人,因为这是处理这个空间的最佳方式,但现在他们没有,他们把东西都拆掉了,所以你无法重现他们的作品。这非常令人沮丧。”
NASA喷气推进实验室首席技术和创新官Chris Mattmann博士认为,OpenAI的发展轨迹直接反映了Apache软件基金会的发展历程。
成立于1999年的Apache最初是一家支持开源软件项目的美国非营利公司,但随着时间的推移,它变成了一个“有毒的地方”,放弃了许多最初的利他意图,转而追求商业利益。
Mattmann解释称,“即使在精英统治下,仍然存在政治控制和委员会。它的运作方式很像政府的灰色收入(dark money)。这几乎就像科技行业的灰色收入概念。”
虽然他们一开始的目标主要围绕着数据共享协议和收集数据进行管理,但接受大笔捐款的决定造成了内在的紧张关系,并将OpenAI推到了一个不得不为投资者的利益而工作的境地。
Mattmann补充道,“他们不会发布自己的模型。就这一点来说,我甚至更欣赏Meta,因为它发布了《Llama》并允许人们下载它。OpenAI无法做到这一点。你不能下载他们的模型。你必须付费才能玩游戏,这与他们一开始所说的有很大不同。”
今年年初,OpenAI公布了ChatGPT商业版本的等待名单,客户可以付费注册一个可以集成到各种产品和业务中的机器人版本。
虽然在过去的20年里,许多技术都受到了消费者的热烈关注,但没有一项技术像ChatGPT那样受到如此迅速的关注。
“还记得手机的规模有多大吗?ChatGPT比那快多了!还记得Twitter有多庞大吗?ChatGPT更快!”
第一代人工智能工具于2022年11月推出,短短5天内用户就超过了100万。相比之下,Netflix用了41个月,Facebook用了10个月,Instagram用了近3个月才达到类似的指标。
这项技术的巨大成功引发了无数关于如何以及在哪里实施的辩论,事实vs科幻,在多年的巨大承诺和错误的开端之后,人工智能重新成为硅谷董事会的热门话题。
Capps补充道,“它在某些方面非常出色,但在其他方面却永远不合适,我们只需要正确地使用它。”
大公司在ChatGPT上存在分歧。虽然有些公司已经实现了这项技术来改善用户体验,比如Netflix,但其他公司由于缺乏可用的知识和不确定性,已经在他们的生态系统中完全禁止了ChatGPT。
ChatGPT有潜力取代整个业务。例如,一家公司创建了一个人工智能来阅读和分析法律文件,可以利用ChatGPT,它可以以更低的成本提供相同的功能。
与专门用于特定专业领域的大型语言模型(LLMs)不同,ChatGPT在专业知识方面不是专家,但可以就广泛的主题提供相对详细的响应,即使输出容易出现不准确性。
虽然ChatGPT背后的生成式人工智能技术已经存在了几年,但OpenAI工具的精简用户体验和算法的增量改进已经推动它与手机和社交媒体一起日常使用。
你向它提问并与它对话,它会尝试从统计上预测最佳输入,通常是一个单词、句子或段落,使用所有公开可用的书面文本的很大一部分。输入的数据越多,人工智能通常表现得越好。
这些形式的人工智能通常使用基于神经网络的模型,将概率分配到一个大型变量矩阵中,并通过庞大的连接网络进行过滤,以产生输出。
这款人工智能工具可以生成和调试代码,以帮助构建应用程序和网站,撰写电子邮件和论文,为加快研究快速提供答案,为各种企业创建营销和搜索引擎优化策略,并提供想法来支持创造性思维。
Capps表示,该项目对于母语不是英语的人、需要帮助写信的人、或者试图寻找最佳旅游城市的人来说都具有非凡意义,但不应在可能影响人类健康或生计的情况下使用。例如,当你的孩子生病时,你不应该去问ChatGPT给他们吃多少泰诺,因为这是不负责任的。
GPT3(该公司之前的语言模型,在2020年推出)将OpenAI推到了新的受欢迎程度,使用了超过1750亿个统计连接,并在三分之二的互联网上进行了训练,包括维基百科和大量书籍。随着时间的推移,该公司会改进和扩展该工具所训练的数据集。
该工具的最新版本GPT4于本月初发布。OpenAI声称,它可以提供更多的信息,理解和回应图像,比之前的版本多处理8倍的单词,并且不太可能对恶意请求做出回应。
但是ChatGPT本质上仍然是一个“黑匣子”,其中信息的谱系和来源并不明显。当代码中出现“幻觉”时,用户无法确定不准确的信息来自何处,这就强调了人力驱动审查的重要性。
在3月16日接受ABC新闻采访时,Altman承认对ChatGPT有时不可靠的行为感到担忧。他表示,“我最想提醒人们的是我们所说的‘幻觉’问题。这个模型会自信地陈述事情,就好像它们是完全虚构的事实一样。”
批评家们还声称ChatGPT有自由主义偏见,Altman表示该公司正在努力改进这一“缺点”。生成式AI容易受到来自许多不同向量的偏差的影响,包括用户的输入、训练它的数据集以及开发人员设置的参数和保障措施。
Altman在2月初表示,该公司正在修改ChatGPT的默认设置,使其“更加中立”,并“授权用户”让系统在“广泛范围内”反映他们自己的个人偏好。
Altman告诉ABC新闻,“我们正在与各种政策和安全专家交谈,对系统进行审计,试图解决这些问题,并推出一些我们认为安全性能良好的东西。再次强调,我们不会第一次就做到完美,但吸取教训并在风险相对较低的情况下找到优势是非常重要的。”
在Altman努力平息人们对其系统内偏见的担忧的同时,他也因其政治捐款而受到审查。
除了2019年底在旧金山的家中为民主党总统候选人Andrew Yang举办了一场筹款活动外,Altman还向民主党和民主党团体捐赠了100多万美元,其中包括向参议院多数党政治行动委员会捐赠60万美元,向美国桥梁政治行动委员会捐赠25万美元,向拜登胜利基金捐赠10万美元,向民主党全国委员会捐赠15万美元。
2014年,Altman在加州山景城的Y Combinator办公室为民主党全国委员会共同主持了一场筹款活动,当时的总统奥巴马也出席了这场活动。
Altman在2014年到2019年担任Y Combinator——一家孵化型初创公司,推出了Airbnb、DoorDash和DropBox——首席执行官期间,曾在多篇博客文章和采访中谈到了中国。2017年,Altman表示,他“觉得在北京讨论有争议的想法比在旧金山更自在”,他觉得向中国扩张是“重要的”,因为他遇到的“一些最有才华的企业家”一直在中国经营业务。
除此之外,Altman还与技术领域的许多知名人士有联系。
2015年,Altman在特斯拉和推特首席执行官埃隆·马斯克(Elon Musk)、贝宝联合创始人彼得·泰尔(Peter Theil)以及领英联合创始人里德·霍夫曼(Reid Hoffman)等硅谷重量级人物的巨额资助下,成立了总部位于旧金山的OpenAI公司。
当时,该公司只是一个专注于学术研究的小型非营利实验室,后来成长为一家科技巨头(估值290亿美元),并成为行业内的主要颠覆者。该公司在人工智能领域的持续进步促使谷歌在内部拉响了“红色警报”,担心ChatGPT可能取代其搜索引擎的霸主地位。
根据福克斯新闻数字频道对OpenAI纳税申报表的回顾,从2016年到2019年,OpenAI筹集了约1.3亿美元。在此期间,该集团将资金投向了许多人工智能项目。
OpenAI的纳税申报表显示,2016年,该公司斥资1050万美元建立研究团队、设定目标、选择首批项目。该集团还推出了OpenAI Gym Beta,发表了近6篇综合研究论文,举办了一次自组织的机器学习会议,开发了基础设施,并建立了一个安全团队。
第二年,也就是2017年,OpenAI花费了2800万美元用于演示“强化学习算法可以在名为Dota2的高级多人游戏的限制版本中击败世界上最好的人类。”根据纳税申报表,这家非营利组织还参与了一份关于人工智能潜在恶意使用的报告,并公布了这些研究结果。
2018年,该组织在启动OpenAI研究员和学者项目时花费了近5000万美元。他们还训练了一只“类似人类的机械手,以前所未有的灵活性操纵物理物体,并扩展其强化学习算法,以击败99.95%的Dota 2玩家团队。”
2019年,OpenAI投入近200万美元创建了“OpenAI, L.P”,这是一家新的有上限利润的公司,旨在帮助快速扩大在计算和人才方面的投资,同时包括制衡,以促进该组织的使命。当年的纳税记录显示,通过对合作伙伴的控制,该集团的强化学习算法“成为第一个在电子竞技游戏中击败世界冠军的人工智能”。然后,这些相同的算法被用于训练一对神经网络,用类似人手来解决魔方,这需要前所未有的灵活性。
据TechCrunch报道,Altma的另一个非营利组织OpenResearch自成立以来已经收到了大约2400万美元投资。