StealthWriter vs Turnitin:文档实际怎么说的
不要把 StealthWriter 检测器的百分比与 Turnitin AI Writing 分数直接互换。StealthWriter 把公开分数定义为被判为自然的文本比例,Turnitin 则公开了另一套 AI 写作计算与显示规则。本文解释 Turnitin 已公布的机制,以及跨工具比较的边界。
HumanPen 团队
· 5 分钟
两种分数不能直接互换
StealthWriter 的 FAQ 把检测器分数定义为被判为自然的输入比例。Turnitin 则把 AI Writing 百分比描述为下文所列流程的结果。已核查来源没有给出两种标签之间的换算规则,因此不能把一款产品的数字换算成另一款产品的数字。
不存在一个所有工具都会趋同的通用 AI 检测分数,差距从哪来,见为什么同一段文字在不同检测器上分数差很多。每个检测器给出自己的估计。把不同工具的分数当作在测同一个东西、用同一种单位来比较,会导致混乱。
本文不声称哪款工具更准确,也没有复现跨厂商的准确率或一致性测试。每个结果都应按照对应厂商自己的定义来读。
Turnitin 的评分流程怎么运作
Turnitin 文档描述了得出 AI 写作分数的具体流程:
"When a paper is submitted to Turnitin, sentences from the submission are extracted and segmented into overlapping sections for prediction analysis. Each segment is classified by the AI detection model and given a value between 0 and 1, denoting the probability of the text being likely human or AI-generated. Each qualifying sentence within these segments inherits the segment's score. Since segments overlap, some sentences may have multiple scores, which are then pooled into a single score. These sentence scores are further aggregated and used to compute the overall document AI writing score."(提交论文至 Turnitin 后,系统会提取论文中的句子,并将其分割成相互重叠的段落进行预测分析。AI 检测模型会对每个段落进行分类,并给出 0 到 1 之间的数值,表示该文本为人类撰写或 AI 生成的概率。这些段落中的每句合格文本都会继承该段落的分数。由于段落之间存在重叠,某些句子可能会获得多个分数,这些分数随后会被合并为单一分数。这些句子分数会进一步汇总,用于计算整篇文档的总体 AI 写作分数。)
流程包括提取句子、分成重叠单元、逐段评分、合并句子级分数,再汇总为文档级百分比。本次核查的 StealthWriter 公开页面没有说明一套对应的分段与汇总流程,因此现有来源既不能证明它采用相同方法,也不能证明它采用不同方法。
Turnitin 文档还澄清,AI 写作检测百分比和相似度分数是分开的。"The Similarity score and the AI writing detection percentage are completely independent and do not influence each other." 相似度分数表示提交文档与 Turnitin 供相似度检查的内容库比对后匹配到的文本比例。一篇文档可以高相似度低 AI 分,也可以高 AI 分低相似度。Turnitin AI 写作报告和相似度报告有什么区别把这两个分开讲了。这两个数字互不影响。
Turnitin 公布的误报率
Turnitin 公布了具体的误报率目标:
"We strive to maximize the effectiveness of our detector while keeping our false positive rate - incorrectly identifying fully human-written text as AI-generated - under 1% for documents with over 20% of AI writing."(我们致力于在确保误报率控制在 1% 以下的前提下,最大限度地提高检测器的有效性——这里的误报指的是将完全由人类撰写的文本错误地识别为 AI 生成——适用于 AI 写作比例超过 20% 的文档。)
文档做了改述:"In other words, we might flag a human-written document as AI-written for one out of every 100 fully-human written documents." 这个改述丢掉了原说法中"AI 写作超过 20%"的限定条件。带 20% 阈值的版本更精确。这个阈值对你自己的分数意味着什么、不意味着什么,见AI 率 20% 算高吗。
为了验证这个目标,Turnitin 描述了其测试框架:"To bolster our testing framework and diagnose statistical trends of false positives, before every update or new model release, we perform tests on over 700,000 additional academic papers that were written before the release of ChatGPT to further validate our less than 1% false positive rate."
这是 Turnitin 关于自身系统的说法。StealthWriter 可能有不同的准确率目标、不同的验证流程,或者可能没有公布可比的数字。我们无法在两个工具之间做直接的准确率比较。我们只能报告 Turnitin 文档的陈述。
短文档的行为
文档长度会影响 Turnitin 检测器处理文本的方式。对于短文档,评分机制的行为不同:
"In shorter documents where there are only a few hundred words, the prediction will be mostly 'all or nothing' because we're predicting on a single segment without the opportunity to overlap."(对于仅含几百字的较短文档,预测结果通常呈现“全有或全无”的特征,因为我们只能在单一段落上进行预测,无法利用重叠段落的机制。)
"This means that some text that is a mix of AI-generated and original content could be flagged as entirely AI-generated."(也就是说,混合了 AI 生成内容和原创内容的文本有可能被标记为「完全由 AI 生成」。)
在较长文档中平滑分数的重叠机制在文本只有一段时不起作用。几百字的混合人类和 AI 内容可能返回 100% 的分数,这是Turnitin 报告显示 100% AI,是怎么来的里的一条路径。这是评分方法在短输入上的结构性行为。
这项短输入行为来自 Turnitin 文档。本次核查的 StealthWriter 页面没有描述对应的短输入流程,因此本文不把相同或不同的机制归给 StealthWriter。
低分如何显示
Turnitin 在 20% 以下隐藏数字分数。文档指出:
"To avoid potential incidence of false positives, no score or highlights are attributed for AI detection scores in the 1% to 19% range. When AI is detected below the 20% threshold in the report, it is now indicated with an asterisk (*%) and no percentage is attributed."(为了避免潜在的误报,AI 检测分数在 1% 至 19% 之间的不给出具体分数或高亮标记。当报告中检测到的 AI 内容低于 20% 阈值时,仅以星号(*%)标示,不显示具体百分比。)
Turnitin 模型估算为 8% AI 的文档,报告里会显示星号,而不是数字 8%。文本上也不会有高亮。这样做的理由是避免在低置信度区间呈现可能的误报,Turnitin AI 率上的星号(*%)是什么意思讲的就是这一段。
星号规则属于 Turnitin。本次核查的 StealthWriter 页面定义了自己的分数,但没有说明同一低分情况会怎样显示。没有单独且有记录的测试,就不应推断两者之间的换算关系或显示差异。
这对你意味着什么
如果你在同一篇文档上比较 StealthWriter 和 Turnitin 的结果,以下是总结:
- 定义不同,没有换算规则。 StealthWriter 定义的是自然度比例,Turnitin 公开的是 AI Writing 分数。已核查来源没有提供两者之间的映射。
- Turnitin 通过分段和汇总评分。 句子被提取、分段为重叠单元、评分、合并、汇总。AI 分数和相似度分数完全独立。
- Turnitin 目标误报率低于 1%(针对 AI 写作超过 20% 的文档),通过 70 万篇 ChatGPT 发布前撰写的学术论文验证。
- 短文档得到全有或全无的分数。 几百字可能返回 0% 或 100%,即使文本是混合的。
- 20% 以下的分数显示为星号。 在 1-19% 区间不显示数字百分比或高亮。
符合条件时可以免费继续降 AI。
继续阅读