美国联邦贸易委员会对 OpenAI 展开全面调查,涉及 ChatGPT 泄露数据、编造答案

人工智能
美国联邦贸易委员会(FTC)近日对总部位于旧金山的公司 OpenAI 展开了全面调查,原因是该公司开发的流行聊天机器人 ChatGPT 可能违反了消费者保护法,将个人声誉和数据置于危险之中。

7 月 13 日消息,据华盛顿邮报报道,美国联邦贸易委员会(FTC)近日对总部位于旧金山的公司 OpenAI 展开了全面调查,原因是该公司开发的流行聊天机器人 ChatGPT 可能违反了消费者保护法,将个人声誉和数据置于危险之中。

FTC 向该公司发出了一份 20 页的记录要求(demand for record),要求其说明如何应对其 AI 模型所带来的风险,这项调查对 OpenAI 在美国的业务构成了重大的监管威胁。

FTC 强调,尽管政府和国会没有明确规定全面的监管规则,但现有的消费者保护法仍然适用于 AI。参议院多数党领袖查尔斯・E・舒默预测,新的 AI 立法仍需数月时间才能出台。

FTC 向 OpenAI 提出的记录要求标志着该机构执行这些警告的第一步具体行动。如果 FTC 发现其违反消费者保护法的证据,就可以对其处以罚款,并规定该公司如何处理数据。IT之家注意到,FTC 此前已经确立了自己作为硅谷主要监管机构的地位,对 Meta、亚马逊和推特等公司因涉嫌违反消费者保护法而处以了重罚。

在其记录要求中,FTC 特别要求 OpenAI 提供关于其产品对个人做出虚假、误导、诽谤或有害陈述的任何投诉的详细描述。FTC 正在调查 OpenAI 是否从事了导致消费者声誉受损的不公平或欺骗性行为。此外,该机构还要求提供与 3 月份发生的安全事件相关的记录,该事件泄露了一些用户的支付相关信息和聊天记录。FTC 正在调查 OpenAI 的数据安全做法是否违反消费者保护法。OpenAI 此前在一篇博客文章中声称,只有极少数用户将自己的数据泄露给其他人。

FTC 向 OpenAI 寻求的信息中,还包括任何评估消费者对其 AI 工具生成的输出的准确性和可靠性的理解的研究、测试或调查,该机构重点关注 OpenAI 的聊天机器人生成的可能损害个人声誉的虚假陈述。例如,ChatGPT 此前错误地指控一位广播电台脱口秀主持人涉及法律索赔,OpenAI 为此遭到诽谤诉讼。ChatGPT 还编造了一个涉及虚构故事和《华盛顿邮报》(The Washington Post)不存在的文章的性骚扰丑闻。除了解决这些问题外,FTC 还要求 OpenAI 提供其产品、广告实践、新产品发布的政策和程序以及减轻大型语言模型相关风险的安全措施的详细细节。该机构还要求 OpenAI 提供用于训练其模型的数据的详细描述,以及用于解决其产生“幻觉”或编造答案的方法。

FTC 对 OpenAI 的调查意味着着该公司面临重大监管挑战,OpenAI 的 ChatGPT 的快速增长及其产生有害内容的潜力引起了联邦贸易委员会的注意,该委员会寻求执行现有的消费者保护法,这项调查的结果可能有助于塑造美国人工智能监管的未来。

责任编辑:庞桂玉 来源: IT之家
相关推荐

2022-08-30 15:06:56

数据脱敏数据泄露网络安全

2023-12-24 12:27:23

隐私数据安全网络安全

2019-04-28 15:35:21

Facebook隐私保护信息泄露

2021-12-13 19:49:07

诈骗隐私网络安全

2023-03-31 15:11:26

OpenAIAI

2023-04-02 13:46:26

人工智能OpenAI漏洞

2010-06-25 09:53:18

2009-05-06 08:43:35

2023-05-16 13:49:24

2022-02-14 10:49:31

加密货币货币美国联邦贸易委员会

2016-12-19 15:26:44

2010-05-07 13:01:56

iPhone OSMac OS

2022-03-03 13:30:55

Log4j漏洞网络攻击

2020-04-26 13:24:41

Facebook数据泄露剑桥分析事件

2009-05-08 08:16:03

谷歌施密特苹果

2010-05-28 11:11:45

谷歌广告商

2009-05-11 08:49:41

谷歌苹果董事

2023-06-14 13:57:16

人工智能深度伪造骗局

2013-12-04 09:34:18

微软诺基亚

2015-02-02 10:49:27

FCC宽带
点赞
收藏

51CTO技术栈公众号