首页 > 科技 > 正文

Stack Overflow 的版主们正在罢工 以阻止垃圾 AI 内容涌入网站

2023-06-07 10:52:41来源:站长之家

编程客栈()6月7日消息:StackOverflow是一个由StackExchange运营的供软

编程客栈() 6月7日消息:Stack Overflow 是一个由 Stack Exchange 运营的供软件开发人员提问和回答问题的热门论坛。最近 Stack Overflow 的志愿版主因公司新的 AI 内容政策发起了一次全面罢工。该政策允许网站上所有由 GPT 生成的内容,并要求立即停止因 AI 内容而进行的封禁。版主们对此表示担忧,因为聊天机器人的信息经常存在不准确性。


(相关资料图)

「Stack Overflow 公司近乎完全停止对 AI 生成内容进行审查... 这在 Stack Exchange 网络中默许了不正确信息(『幻觉』)的扩散和无限制的剽窃行为。」这是版主们撰写的一封公开信中的内容,他们都是由社区选举产生的志愿者。

「这对平台及其内容的完整性和可信度构成了重大威胁。我们将对 Stack Overflow 和 Stack Exchange 网络进行一次全面的罢工,以抗议 Stack Overflow 公司强加给我们的这项以及其他近期和即将实施的政策和平台变化。罢工立即生效。」

新的政策于五月末生效,要求版主停止仅因为是 AI 生成内容而进行审查。然而,版主们表示,如果没有对 AI 生成内容进行适当的审查,Stack Exchange 的信息质量和准确性将迅速下降。

版主们在 Meta Stack Exchange 上的帖子中进一步解释了他们的要求:「AI 聊天机器人就像鹦鹉。例如,ChatGPT 并不理解它所给出的回答;它只是将给定的提示与其所访问的信息相关联,然后吐出听起来合理的句子。它无法验证所提供的回答是否准确。ChatGPT 不是作家、程序员、科学家、物理学家或我们网站依赖于高价值内容的任何其他专家。当收到提示时,它只是根据其接受的训练信息串联单词。它并不理解自己在说什么。」

文章继续说道,这使得用户可以不理解 ChatGPT 的回答就复述出来,这违背了该网站的初衷:「成为高质量问题和回答的知识库。」

新 AI 政策的内容是一个大问题。版主们说的另一个问题是其缺乏透明度。他们在帖子中写道,去年 12 月,该网站实施了一项临时政策,禁止使用所有 ChatGPT,原因是其「普遍不准确」并违反了网站的引用要求。这一政策得到了志愿版主和 Stack Exchange 员工的支持,并导致了许多帖子被删除和用户被封禁。

然而,版主们在帖子中写道,5 月 29 日,他们发现一个新的政策在私下里实施,要求「立即停止因 AI 生成内容而发出封禁,并停止仅基于此理由对 AI 生成内容进行审查」。第二天,该政策的稍微不同版本发布给公众,没有要求版主停止限制所有 AI 内容的语言。

Meta Stack Exchange 的公开信中写道:「新政策推翻了既定的社区共识android和之前的社区管理支持,未与任何社区成员讨论,向版主们提供了误导性信息,然后在公开场合提供了更加误导性的信息,而这一切都是基于未经审查和无法审查的数据分析得出的无依据声明。」

文章继续道:「你们在私下提出一个观点,然后在公开场合提出另一个观点,两者之间有如此大的不同,使版主们陷入了一个无法解决的境地,并使他们成为被指责不合理和编程夸大新政策影响的对象。」

版主们还要求对网站进行与 AI 无关的改进。「罢工在很大程度上也是关于 Stack Exchange 公司最近展示的行为模式,」帖子中写道。「公司再次无视了其社区的需求和既定共识,而是专注于以牺牲其自己的社区管理人员为代价的商业转型。」他们列举了一个例子,即聊天功能,他们表示该功能已经过时多年,但一直被忽视。

这次罢工是对 ChatGPT 内容泛滥在线网站的第一个重大行动。但其他论坛的版主们也同样表示担忧。Reddit 的版主已经为大量不准确信息的 AI 生成帖子做好了准备。一位不愿透露姓名的 Reddit 版主表示,Reddit 的 ChatGPT 驱动的机器人问题「相当严重」,已经手动删除了数百个帐户,因为 Reddit 的自动系统无法处理 AI 生成的内容。

版主们希望撤回和修订 AIjs 政策,解决公开和私下版本之间的不一致,并对公司与社区的关系「停止不诚实」。

Stack Overflow 的编程客栈社区副总裁 Philippe Beaudette 在一份声明中称:「Stack Overflow 网络中少数版主(11%)已经停止参与多项活动,包括内容的审核。这一行动的主要原因是对我们关于检测工具在 AI 生成内容方面的立场不满。Stack Overflow 进行了分析,版主们之前使用的 ChatGPT 检测工具有惊人的高误报率。」版主们在帖子中写道,他们意识到这个检测工具存在问题。

Beaudette 继续说道:「我们坚持我们要求版主停止使用之前的工具的决定。我们有信心能够找到前进的道路。我们对事态进展到这一地步感到遗憾,社区管理团队正在评估当前的情况,努力在短期内稳定局面。」

关键词:

责任编辑:hnmd004