人工智能探测器弄错了。不管怎样，一些作家都被解雇了

Kimberly Gasuras不使用人工智能。她说，“我不需要。我当新闻记者已经24年了。你觉得我是怎么做这些工作的？”这种逻辑不足以保住她的工作。

作为俄亥俄州比塞洛斯的一名当地记者，Gasuras依靠副业来付账。有一段时间，她在一个名为WritersAccess的自由写作平台上赚了很多钱，在那里她为中小型公司写博客和其他内容。2023年过半，一些客户转向使用ChatGPT满足写作需求，她的收入直线下降。那已经是一段艰难的时期了。然后邮件来了。

“我只收到了一条警告，”Gasuras说，“邮件上说他们使用一种名为‘Originality’（原创）的工具将我的作品标记为人工智能撰写。”她目瞪口呆了。Gasuras回信为自己的清白辩护，但她从未得到回应。Originality是要花钱的，在上传她的作品之前，Gasuras使用其他人工智能探测器检测，防止她被冤枉。几个月后，WritersAccess还是把她踢出了平台。“他们说我的账户因过度使用人工智能而被暂停。我简直不敢相信，”Gasuras说。WritersAccess没有回应置评请求。

一年半前，ChatGPT在世界上引起轰动，为了抓住试图冒充人工智能文本作为自己作品的人，人们狂热地研究相关方法。许多初创公司通过人工智能检测工具来填补这一空白，其中包括Copyleaks、GPTZero、Originality.AI和Winston AI。在一个充满人工智能恶魔的环境中，这是一项清洁业务。

这些公司标榜安心，这是一种通过“证据”和“问责”夺回控制权的方式。有些公司宣传称准确率高达99.98%。但是越来越多的专家、研究和业内人士认为，这些工具远没有制造商承诺的那么可靠。毫无疑问，人工智能探测器经常出错，无辜的旁观者会陷入交火。无数学生被指控抄袭AI，但一种更悄然无声的情况正发生在专业领域。由于聊天机器人，一些写作工作正走向衰亡。人们为不断缩小的工作领域而斗争，作家们也因人工智能探测器的虚假指控而失业。

Undetectable AI的联合创始人Bars Juhasz表示：“这项技术并不像人们宣传的那样发挥作用。”该公司的生产工具可以帮助人们将人工智能文本人性化，以使其通过检测软件。“我们对这些人工智能探测器训练过程的可靠性有很多担忧。这些人声称探测器有99%的准确率，根据我们的发现，我认为这是不可能的。但即使这是真的，这仍然意味着每100个人中就会有一人被冤枉。我们谈论的是人们的生计和声誉。”

保障还是骗局？

一般来说，人工智能检测器通过发现人工智能文本的特征来工作，例如完美的语法和标点符号。事实上，让你的作品被标记的最简单的方法之一是使用Grammarly，这是一个检查拼写和语法错误的工具。你猜对了，它甚至建议使用人工智能来重写句子以使句子清晰。更糟的是，Gizmodo采访了一些作家，他们说他们被要求使用Grammarly的平台解雇了。（Gizmodo证实了这些事情的细节，但我们排除了某些自由职业平台的名称，因为作者签署了保密协议。）

探测器还会寻找更有说服力的因素，例如“爆发性”。人类作者更有可能在集群或突发中重复使用某些词，而人工智能更有可能将这些词均匀地分布在整个文档中。人工智能检测器还可以评估“困惑”，这本质上是要求人工智能在给定模型的训练数据的情况下估量它产生一段文本的可能性。一些公司，如行业领导者Originaility.AI，它们训练自己的人工智能语言模型，专门用于检测其他人工智能的工作，旨在发现对人类思维来说过于复杂的模式。

然而，这些技术都不是万无一失的，许多主要机构已经放弃了这类工具。OpenAI于2023年发布了自己的人工智能检测器，以平息人们对其产品的担忧，但几个月后“由于准确率低”该工具从市场上被撤下。学术界率先采用人工智能检测器，但虚假指控促使许多大学禁止使用人工智能检测软件，包括范德比尔特大学、密歇根州立大学、西北大学和德克萨斯大学奥斯汀分校。

柏林应用科学工程与经济大学教授Debora Weber-Wulff表示，人工智能检测公司“是骗局”，她最近与人合著了一篇关于人工智能检测有效性的论文。Weber-Wulff说，研究表明人工智能探测器不准确、不可靠，而且容易被愚弄。“人们愿意相信有一些神奇的软件可以解决他们的问题，”她说。但是“计算机软件不能解决社会问题。我们必须找到其他解决方案。”

制造人工智能探测器的公司表示，在一个被机器人生成的文本淹没的世界中，人工智能探测器是一种必要但不完美的工具。不管这些服务是否有效，我们对它们有很大的需求。

人工智能检测公司GPTZero的首席技术官Alex Cui表示，探测器有很大的缺点，但利大于弊。“我们看到。未来如果什么都不改变，互联网将越来越多地由人工智能决定，无论是新闻、同行评审文章还是营销。你甚至不知道在社交媒体上与你交谈的人是否是真人，”他说，“我们需要一个解决方案来集体确认知识，并确定内容是否高质量、真实且具有合法作者身份。”

必要的后果？

马克是另一位俄亥俄州的广告文案撰写者，他要求我们隐瞒他的名字以避免职业影响，他说，在人工智能探测器让他丢掉工作后，他不得不在当地一家商店做维护工作。

“我收到一封电子邮件，说我最近的文章有95%的人工智能生成的可能性，”马克说。“我很震惊。那还是早在ChatGPT出现之前，一起工作了三年的同事们指责我，这感觉很荒谬。”

他试图反击。马克向他的客户发送了一份他起草文章的谷歌文档的副本，其中包括证明他手写文档的时间戳。这还不够。马克与写作平台的关系破裂了。他说失业让他损失了90%的收入。

Originality.AI首席执行官Jonathan Gillham表示：“我们听到的这些事情比我们预想的要多，我们理解当作家全心全意投入的作品受到错误指控时，误报给他们带来的痛苦。”“我们觉得我们正在构建一个工具来帮助作家，但我们知道有时它确实会产生一些后果。”

但根据Gillham的说法，这个问题不仅仅是帮助作家或提供责任。“谷歌正在积极打击人工智能垃圾邮件，”他说，“我们听说整个网站被谷歌取消索引的公司表示，他们甚至不知道自己的作者正在使用人工智能。”

的确，互联网上充斥着低效的内容生产者，他们发布垃圾人工智能文章，试图玩弄搜索结果，获得点击量，并从这中赚取广告收入。谷歌正在打击这些网站，这导致一些公司认为，如果谷歌检测到任何人工智能写作的内容，他们的网站将被降级。这是基于网络的企业面临的一个问题，也越来越成为人工智能探测器的第一大卖点。Originality宣传自己是一种“让你的网站在谷歌上面向未来”的方式，这一宣传在其主页上的优点列表中居于首位。

谷歌发言人表示，这完全曲解了公司的政策。谷歌公司说人工智能内容本身没有问题。该发言人表示，“仅仅因为网站可能使用一些人工智能生成的内容就说谷歌惩罚网站是不准确的。”“正如我们明确指出的，无论内容的产生方式是怎样的，大规模创建以操纵搜索排名的低价值内容是垃圾。我们的自动化系统根据指示内容是否有用、是否高质量来确定热门搜索结果中出现的内容。”

不同的看法

没有人，包括制造它们的公司，声称人工智能探测器是完美的。但Originality和其他人工智能探测器就如何使用他们的工具给出了不同的看法。例如，Gillham说，“我们建议不要在学术界使用该工具，并强烈建议不要将其用于纪律处分。”他解释说，误报的风险对学生来说太高了，因为他们在整个学年中提交的论文数量很少，但专业作家产生的工作量意味着算法有更多的机会给出正确的判断。然而，在该公司的一篇博客文章中，Originality表示人工智能检测在课堂上是“必不可少的”。

关于结果如何呈现的问题。Gizmodo采访的许多作家表示，他们的客户不了解人工智能探测器的局限性，甚至不了解结果实际上意味着什么。很容易看出有人可能会感到困惑：我用Originality的人工智能检测器运行了自己的一篇文章。结果是“70%原创”，“30%AI”。你可能会认为这意味着Originality决定了30%的文章是由聊天机器人写的，特别是因为该工具突出显示了它认为可疑的特定句子。然而，这实际上只是一个信心分数；Originality有70%的把握这是人类写的文本。（整篇文章都是我自己写的，但你只能相信我的话。）

这是该公司描述其算法的方式。Originality称，其工具的最新版本准确率为98.8%，但Originality也表示其误报率为2.8%。如果你手边有计算器，你会注意到加起来超过100%。Gillham说，这是因为这些数字来自两种不同的测试。

在Originality的辩护中，该公司详细解释了你应该如何理解结果下方的信息，它还附有如何使用该工具的更详细文章的链接。不过，这似乎还不够。Gizmodo采访了多位作家，他们说他们不得不与误解Originality工具的客户争论。

Originality发表了大量关于准确性和其他问题的博客文章和研究，包括用于开发和测量自己工具的数据集和方法。然而，柏林工程与经济应用科学大学的Weber-Wulff表示，有关Originality方法的细节“并不那么清楚”。

Gizmodo采访了一些专家，如Undetectable AI的Juhasz，他们担心整个AI检测行业的企业会夸大准确率、误导客户。GPTZero和Originality AI的代表表示，他们的公司致力于公开和透明。两家公司都表示，他们会尽力提供有关其工具的局限性和缺点的详细信息。

这可能感觉像是作家们反对人工智能探测器，但根据Gillham的说法，事实恰恰相反。“如果没有探测器，那么写作工作的竞争就会加剧，工资就会下降，”他说，“作家能够完成自己的工作、提交内容并获得报酬，而其他人只能够复制粘贴ChatGPT的东西，侦测器会显示出这种区别。”

而且，Gizmodo采访的所有广告文案撰写者都表示人工智能探测器是问题所在。

“人工智能是未来。我们无法阻止它，但在我看来，这不是问题所在。我可以看到人工智能有很多有用的方式，”马克说，“问题是这些探测器。它们非常肯定地说可以检测人工智能的写作，也是它们让我们的客户感到紧张和偏执，让我们失业。”