译者 | 晶颜
审校 | 重楼
ChatGPT的问世打开了“潘多拉魔盒”，人工智能内容检测器也由此流行起来。
随着ChatGPT的问世，基于人工智能(AI)的写作工具永久地改变了内容创作的格局，在实现效率和创新的同时，也打开了“潘多拉魔盒”。在此背景下，人工智能内容检测器日渐兴起。
人工智能内容检测器是用于处理和检查文本以确定其是否为人工智能生成的工具。该软件将文本与现有的人工智能和人类编写的内容数据集进行比较，通过分析文本的结构和语言特征来区分它们。
事实上，这项技术已有多年历史，但自本世纪20年代初以来，才真正迎来人工智能内容检测器的兴起。
下文揭示了人工智能检测器受欢迎背后的原因，以及人工智能内容检测器为各领域文本使用者带来的好处。
人工智能内容存在的问题
让我们面对现实吧：像ChatGPT这样的人工智能内容创建工具是非常棒的。引用Marc Andreessen和Bill Gates的话说，它们是“计算机领域有史以来最伟大的东西”。它们是“纯粹的魔法”。
这种“特殊的魔法”只有一些小问题：
- 它可以把来自网络的虚假信息当作真实的信息来呈现。人工智能内容生成器根据提示构建答案，“预测”统计上可能的单词序列。他们不能区分正确和错误的陈述。
- 它有时会对有争议的问题(性别、政治、少数群体、宗教等)提供有偏见、不准确甚至歧视性的答案。
- 虽然人工智能作家足够聪明，可以生成可以“欺骗”抄袭检查工具的原创内容，但这些内容太过笼统，没有深度或独特的见解。
简而言之，人工智能内容缺乏个性或真实性，为读者区分真伪带来了极大的考验。而这正是人工智能内容检测器可以发挥作用的地方。
如今，这项技术的可靠性为70-80%，可以帮助用户揭示内容创作中是否有人工智能参与。误报或漏报的情况时有发生，因此不能100%依赖该工具反馈的结果。为了获得更高的准确性，仍然需要人工审查。
但是，与人工智能写作软件一样，人工智能内容检测器也在不断发展。以下是它们在与文本内容的创作和传播直接相关的三个领域受欢迎的原因和影响。
教育领域
教育领域是最早对人工智能作家发出警告的领域之一。
这一点是可以理解的：ChatGPT问世后，“人工智能论文写作”的搜索量激增了2041%，提交的大学论文中有五分之一是人工智能生成的。虽然违反学术诚信在教育领域并不新鲜，但它已经达到了一个新的水平。
在人工智能出现之前的时代，为了获得高分，学生们会积极使用写作服务来帮助他们撰写一流的学术论文。而在人工智能时代，他们开始使用人工智能技术。许多人认为这是对教育系统的威胁。
问题不仅在于学术上的不诚实，过度使用人工智能工具还会损害学生的写作和沟通能力。学生在写论文时能够获得批判性思维、创造力、论证能力和分析能力。他们能学会有逻辑、连贯地表达思想和观点。而过度依赖人工智能工具，他们会失去这些技能，包括独立思考和解决问题的能力。
此外，人工智能文本生成器会破坏学生的写作心声。他们不再使用自己的风格，而是更多地依赖于工具的建议(即预测性文本)，而不是创造力或独特的声音。这就是哲学家埃文·塞林格(Evan Selinger)九年前所讨论的：“预测性文本影响着人们的互动方式。”
她说，这项技术可能会“阻止我们思考”，因为它“削弱了写作作为一种精神活动的力量”。对话已经变得“比我们自己更像算法”，缺乏个人表达。这就是学生在写作任务中滥用人工智能的情况：他们专注于任务的技术要求，放弃了深度，从而削弱了写作作为一种心理过程的力量。这让一些教育工作者担心，学员们可能会牺牲自己的学术成长，把舒适置于学习之上。
人工智能内容检测器在遏制这一趋势方面起到了重要作用。
如今，教育机构会使用带有抄袭检查器的检测器来确保学生作品的原创性。这为学生带来的好处也很明显：
- 维护学术诚信，防止滥用人工智能：人工智能内容检测器阻止学生依赖文本生成器来撰写论文，从而培养一种动脑实践的文化。
- 提高写作技能：人工智能探测器通过突出问题区域并鼓励学生对其进行润色以提高真实性和可读性来帮助校对和编辑论文。
搜索引擎优化和营销领域
人工智能写作工具是大型语言模型(LLM)，可以生成连贯的文本，看起来像是对人类写作的令人信服的模仿。
一开始，它便在营销人员和搜索引擎优化专家间引起了轰动。他们将人工智能作家视为节省内容创作时间和预算的机会，十分积极地为他们的博客、社交媒体账户、新闻稿、产品描述、广告等生成文本。
但问题很快就出现了：
- 人工智能文本是通用的，没有独特的见解、人类视角和情感。
- 文本内容读起来就像出自五年级学生之手。
- 人工智能欺骗了抄袭检查器，但无法满足谷歌的E-E-A-T。
结果，大量千篇一律的文本出现了：这些文本不仅无法吸引用户、带来品牌效益，也不能让品牌脱颖而出。谁愿意只有在谷歌上搜索深度信息时才能看到它呢?
说到谷歌，顺便说一下：他们的政策认为人工智能生成的内容是垃圾邮件，后来转变为“只要保持质量和原创性就可以”，与目标受众相关，并且不用于操纵搜索排名。
这些政策也是人工智能内容检测器受欢迎的原因之一：谷歌会对违反其人工智能生成内容规则的人进行处罚，这让网络管理员对其在网站上放置的内容感到烦恼。现在，他们会积极使用人工智能检测器来防止低质量的人工智能文本入侵他们的在线平台。
内容写作
人工智能文本生成器还改变了专业人类作家在内容创作领域的角色。
创造力、独特的见解、个人观点、讲故事和情感——人工智能缺失的一切现在都是吸引观众并让他们记住其在线阅读的文本的基础。换句话说，人工智能作家赋予了人类作家更多的工作，而不是把他们踢出利基市场。
人工智能文本是无声且单调的：
- 冗长的短语
- 太过复杂的句子
- 用词不当
- 陈词滥调
- 多余的-ly副词
- 原始文本结构
- 每个高中生都能掌握的常识
人工智能内容检测器可以帮助作者提高他们的技能，而不会让他们的文章听起来像机器人或业余爱好者。
这些工具鼓励内容创作者更多地关注独特的见解，引人入胜的叙述和附加价值，而不是字数统计和文本中的语法错误。高质量的写作可以通过情感写作策略和个性化与观众交流愿景和建立联系。
结语
“适度是宝”(Measure is a treasure)。人工智能内容检测器帮助用户在与人工智能作家和人工智能生成的内容合作时保持这种适度和平衡。
原文标题：Why Are AI Content Detectors So Popular in 2024?，作者：Zohaib
