程序员问答平台 Stack Overflow 版主罢工,抗议公司允许 AI 生成内容涌入网站

人工智能
该网站的一些志愿版主发起了罢工行动,抗议公司新出台的 AI 内容政策,该政策规定,所有由 AI 生成的内容都可以在网站上发布,而且不得因为 AI 内容而对用户进行封禁。版主们表示,他们担心这样会导致错误信息泛滥,损害网站的质量和信誉。

6 月 7 日消息,Stack Overflow 是一个由 Stack Exchange 运营的知名软件开发者论坛,用户可以在上面提问和回答各种编程问题。

版主们在一封公开信中写道:“Stack Overflow 公司已经下令禁止对 AI 生成的内容进行任何审查…… 默认允许在 Stack Exchange 网络上出现不正确的信息(‘幻觉’)和肆无忌惮的剽窃。这对平台和其内容的完整性和可信度构成了重大威胁。为了抗议这个以及其他一些近期和即将到来的政策和平台变化,我们决定立即在 Stack Overflow 和 Stack Exchange 网络上发起一场全面的版主罢工。”

该政策于 5 月底实施,要求版主停止仅仅因为内容是由 AI 生成而进行审查。然而,版主们认为,如果不对 AI 生成的内容进行适当的管理,Stack Exchange 网站上的信息质量和准确性将会迅速下降。

版主们在 Meta Stack Exchange 上发表了一篇文章,进一步解释了他们的诉求。文章中写道,“AI 聊天机器人就像鹦鹉,例如,ChatGPT 并不理解它给你的回答;它只是根据给定的提示和它能够访问的信息来复述看起来合理的句子。它无法验证它提供给你的回答是否准确。ChatGPT 不是一个作家、一个程序员、一个科学家、一个物理学家,或者我们网站所依赖的任何其他类型的专家。当被询问时,它只是根据它所接受的训练来拼凑单词。它不明白自己在说什么。”

文章还称,“这会允许用户在不理解自己说什么的情况下复述 ChatGPT 的回答,这违背了我们网站的目标:成为一个高质量问答内容的库。”

版主们称另一个问题是,公司在制定这一政策时缺乏透明度。他们在文章中写道,去年 12 月,网站实施了一个临时政策,禁止所有 ChatGPT 的使用,因为它“普遍不准确”,并且违反了网站的引用要求。这一政策得到了志愿版主和 Stack Exchange 员工的支持,并导致了许多帖子被删除和用户被封禁。

然而,在 5 月 29 日,版主们写道,公司私下实施了一项新政策,要求“立即停止因为 AI 生成的内容而对用户进行封禁,并且停止仅仅基于这一原因而对 AI 生成的内容进行管理。”第二天,公开发布了一个稍有不同的政策版本,没有包含要求版主停止限制所有 AI 内容的语言。

“新政策推翻了社区已经达成的共识,没有与任何社区成员进行讨论,对版主和公众都进行了误导性的宣传,并且是基于未经审查和无法审查的数据分析得出的毫无根据的说法,”Meta Stack Exchange 的文章写道。

版主们还要求公司对网站的非 AI 相关的问题进行改进。“这次罢工也在很大程度上是关于 Stack Exchange 公司最近表现出来的一种行为模式,”文章写道,“公司再次无视了社区的需求和已有的共识,而是把重点放在了商业转型上,牺牲了自己的社区经理。”他们列举的一个例子是网站的聊天功能,他们说这个功能已经过时了,但是多年来一直被忽视。

IT之家之家注意到,这次罢工是针对 AI 生成内容涌入在线网站的首个重大行动,其他论坛上的版主也有类似的担忧。Reddit 上的一些版主已经为大量 AI 生成的带有错误信息的帖子做好了准备。一位不愿透露姓名的 Reddit 版主告诉 Motherboard,Reddit 上由 ChatGPT 驱动的机器人问题“相当严重”,并且已经有几百个账号被手动从网站上删除,因为 Reddit 的自动系统难以应对 AI 生成的内容。

版主们希望公司撤回并修改 AI 政策,解决公开和私下版本之间的不一致问题,并为此道歉。Stack Overflow 社区副总裁 Philippe Beaudette 在一份声明中告诉 Motherboard 说,“Stack Overflow 网络上有一小部分版主(11%)已经停止参与一些活动,包括管理内容。这次行动的主要原因是对我们在 AI 生成内容检测工具方面的立场不满。Stack Overflow 进行了一项分析,发现版主之前使用过的 ChatGPT 检测工具有惊人高的误报率。”版主们在文章中写道,他们知道检测工具存在问题。“我们坚持我们要求版主停止使用之前工具的决定,”Beaudette 继续说,“我们相信我们会找到一个前进的道路。我们遗憾事态发展到了这一步,社区管理团队正在评估当前情况,同时努力在短期内稳定局面。”

责任编辑:庞桂玉 来源: IT之家
相关推荐

2023-06-05 13:58:16

禁令ChatGPT

2015-04-13 14:14:18

程序员开发语言调查

2020-08-28 09:50:12

Java程序员语言

2023-10-30 16:47:18

AI工具模型

2023-06-06 17:48:35

罢工人工智能AI

2022-12-06 13:56:03

AI模型

2009-07-02 15:03:00

Java程序员认证

2018-06-14 09:59:48

程序员代码大公司

2023-05-04 13:53:48

AIChatGPT好莱坞

2023-08-27 22:19:03

AI语义搜索OverflowAI

2021-06-30 13:30:05

GitHub工具AI

2020-06-15 09:32:59

程序员大公司小公司

2018-10-31 09:27:55

谷歌Android开发者

2009-02-11 10:21:40

裁员降薪外包

2023-07-29 13:09:36

程序员AI

2011-06-11 20:59:12

程序员

2018-05-29 22:38:49

AI程序员代码

2023-07-28 14:39:37

StackOverflowAI

2023-10-17 12:53:00

AI模型

2011-04-13 17:54:57

程序员
点赞
收藏

51CTO技术栈公众号