“AI教父”警告:开源大型语言模型可能会让AI变得更加危险

人工智能 开源
在开发神经网络方面做出重大贡献而被誉为“AI教父”的谷歌前副总裁Geoffrey Hinton日前表示,开源大型语言模型(LLM)可能会使AI变得更加危险,因为AI技术的代码在网上免费提供,更有可能被居心不良的人所利用。


image001.png

近几个月来,世界各地的AI实验室开发了多个大型语言模型

开源大型语言模型可能带来的问题 

OpenAI的GPT-4或谷歌的PaLM等大型语言模型为ChatGPT等生成式AI系统提供技术支撑。近几个月来,ChatGPT等AI系统在企业和消费者中迅速普及,这些工具能够在几秒钟内自动生成详细的图像和文本,这对许多行业来说可能是革命性的技术,但AI模型的封闭性以及高昂的开发成本,意味着用户采用这些系统面临高昂的成本。 

为此许多人认为,大型语言模型可以提供更具成本效益的替代方案,特别是对于希望利用AI的力量并使用ChatGPT等工具的中小公司,开源正是其中的一个方案。 

但Hinton认为,不断发展和增长的大型语言模型可能会带来问题。Hinton于上个月辞去了在谷歌的职位,声称这样他就可以自由地表达自己对AI发展的担忧。 

Hinton日前在剑桥大学生存风险研究中心发表演讲时说:“开源大型语言模型的危险在于,它使更多的疯子能够用AI做疯狂的事情。” 

把大型语言模型“关进笼子”可能是有益的

Hinton认为,大型语言模型继续局限在OpenAI等公司的实验室开发,可能最终证明是有益的。

他表示,“如果这些AI技术是危险的,那么最好由几个不同国家的几家大公司来开发,同时找到控制它的方法。一旦开源了代码,有些人就会开始用它做各种疯狂的事情。” 

Hinton在演讲中称,相信GPT-4已经显示出智慧涌现的迹象。他重申了自己的信念,即所谓的超级智能AI的能力超越人类智能的时刻已经不远了。

“这些AI系统将变得比我们更聪明,这可能很快就会发生。我过去认为这可能50到100年之后发生的事情,但现在我认为可能是未来5到20年。如果它将在5年内发生,我们不能让哲学家来决定该怎么做,而是需要有实践经验的人员来说决定。”他强调。 

他补充说,“关于如何处理AI,我希望有一个简单的答案。我认为最好的一个办法是,AI开发商在开发AI模型时,应该必须投入大量人力和资源来检查它们的安全性。我们需要获得这些方面的经验,了解它们可能会如何失控,以及如何控制它们。” 

Hinton原来所在的谷歌旗下AI实验室DeepMind于5月26日表示,该公司已经开发出一个早期预警系统,可以发现AI带来的潜在风险。

一些大型语言模型已经开源并产品化

如今有一些大型语言模型已经发布在网上,特别是今年3月Meta的大型语言模型LLaMa的源代码,已被泄露到网上。 

软件供应商也试图从企业对可安装的、有针对性的、个性化的大型语言模型日益增长的需求中获利。今年4月,Databricks发布了一个名为Dolly2.0的大型语言模型,将其标榜为第一个指定用于商业用途的开源、遵循指令的大型语言模型,声称其具有类似ChatGPT的功能,并且可以在企业内部运行。 

开源模型的支持者表示,它们有可能使ChatGPT等AI系统的使用“民主化”。本月早些时候,软件开发人员Keerthana Gopalakrishnan在接受媒体采访时表示:“我认为降低实验的进入门槛很重要。有很多人对这项技术感兴趣,他们真的希望通过AI进行创新。”

责任编辑:庞桂玉 来源: 极客网
相关推荐

2023-10-10 14:46:13

AI人工智能

2023-10-10 14:00:00

AI模型

2024-03-12 10:36:17

AI大模型人工智能

2020-03-09 10:10:02

AI 数据人工智能

2021-02-22 10:01:16

人工智能黑客网络安全

2019-06-26 15:41:26

AI云原生云迁移

2019-11-28 09:42:46

人工智能AI精准医疗

2023-09-03 16:20:30

2024-10-17 16:07:28

2023-08-10 17:45:02

2023-02-28 14:57:02

MetaAI

2023-06-19 16:05:22

大型语言模型人工智能

2023-06-16 13:02:22

GPT-5GPT-4AI

2024-10-25 16:45:02

2015-02-10 11:21:36

iOS 9苹果

2020-06-16 13:22:22

AI创新深度学习

2015-12-02 09:37:24

数据中心数据中心优化

2024-09-24 14:21:49

2018-07-16 14:19:44

AI银行人工智能
点赞
收藏

51CTO技术栈公众号