十个 AI 评委全被骗过,人类五次盲测五次识破

一场持续一天一夜的对抗实验:让大模型写的段落混进真人网文选段,看谁能挑出来。结果十个主流模型评委识破率 0%,还把真书原文批成 AI;而人类每一轮都当场识破。这篇公开全部过程:六条人类判据(每条配机器句与真书句对照)、五种失败的伪装手段、以及「AI 互评不可当真值」的完整证据。

暖纸底插画:一排整齐的机器人评委全部举着对勾牌,前景一只人类的手持放大镜,照出纸面上一道细如发丝的接缝

7 月 25 日,我们内部读了一批新写的角色卡,负责人扔下一句话:「这些都一股 GPT 味。」 没人反驳,因为都读得出来。但追问一句就卡住了:这个「味」到底是什么? 能不能量化,能不能修掉?

于是我们搭了一个对抗实验,代号 style-fusion-bench:让大模型写的段落混进真人网文的选段里, 做成双盲题,看谁能挑出来。挑的人分两拨,一拨是十来个主流大模型当评委, 一拨是人类盲读。写的一方每输一轮,就按判词修一轮写作规程,再战。 从 25 日深夜到 26 日下午,一共打了十五轮,写了三十多篇稿子、上百组盲测段落。

结果先说:AI 评委那边,我们赢到发虚;人类这边,一次都没赢过。

凌晨六点半,我们以为赢了

通宵七轮之后,终局测试是这样设计的:三个从头到尾没参与过迭代的模型评委 (GLM-5、DeepSeek 两个版本),拿到十个机器段落和十个真书段落的混合池, 任务是挑出机器写的。为了防止运气,同一批稿子换窗口又复测了一轮。

两轮识破率都是 0%。十五组「哪段是机器」的配对题,全错。

更有意思的是错的方向。评委不是分不清,是整个反过来了。GLM-5 给机器写的木匠铺段落判 「真人,置信 90」,理由是动作细节与心理活动结合自然;同一个评委, 把《斗破苍穹》的原文段落判成「机器,置信 75」,理由是「解释性文字过多,场景描写套路化」。 DeepSeek 把《绍宋》原文里「杨沂中气了个半死」这样的句子批成「语言风格不一致,生硬」。 真书被嫌弃太像 AI,机器稿被夸有烟火气。

这不是孤例。整场实验先后有十个主流模型坐过评委席:GPT-5、Gemini 3.1 Pro、Qwen、 DeepSeek 各档、豆包、GLM-5,还有上一代 Claude。全部同向翻车。 它们对「AI 味」的印象还停留在套话多、生硬、模板化, 于是一份守纪律、不写套话的机器稿,在它们眼里比真书更像人。 我们之前做角色卡文案双盲时就撞见过这个现象,当时四个评委的金标正确率只有 12% (那次实验的完整记录在这篇), 这次样本扩到十个模型、语料换成小说正文,结论没变,还更狠了。

七个小时后,人类进场

早上 07:37,我们把终版机器稿混进真书选段做成盲测页,请一位重度网文读者来判。 三段机器稿,一眼,3/3 全中。

原话是:「1、4、6 段落都那么摘。」

三段机器稿写的分别是客运站、染坊、木匠铺,三个完全不同的题材, 但在这位读者眼里是同一个「乡土口述白描腔」换皮。而真书的三段是三种完全不同的声音: 一段是网游文作者陪读者唠嗑,一段靠对话往前赶,一段是说书人向读者补课。 机器评委读了一晚上都没发现的事,人类扫一眼版面就看见了。

之后的一整天,这位读者又盲测了四次。每一次我们都按上一次的判词修了写作规程, 每一次都被当场识破,而且每次识破都带回一条新判据。到实验收口时, 判据攒了六条。这六条是整场实验最值钱的资产,逐条讲。

人类的六条判据

一批文本全是同一个腔

单看一段看不出来,十段摆在一起就藏不住。机器写十个题材,是一个腔换十件衣服; 真人写手换题材是真的换声音。这条判据后来连机器守门员都学会了引用, 它的自白是:「单段拿出来我未必敢判,十段放在一起,同一套呼吸、同一张清单、 同一种收束就藏不住了。」

每句都绷着「在写作」的劲

机器爱把句子剁碎、加悬置,营造文学感,比如「今夜,是他的手了。」「渡口,渡官。」 真人的叙述底子是中长句,碎句只在情绪峰值上偶尔打一记。我们数过一本真书的惊悚名场面, 三十行只有 3 记碎句;机器稿的碎句是匀速鼓点。真人的随手,长这样:「杀了几波后」, 一个不承担任何修辞任务的「后」字,接着就往下讲事。

写得太好,本身就是破绽

这条最反直觉,也最治不了。守门员对某篇机器稿的终极判词是: 「八百字里挑不出一处失手,恰恰是最大的破绽。」每个细节都在为主题服务,没有一句白写。 真人恰恰相反,《全职高手》里有大段的技能点、等级、经验流水账, 「一个70级的满级角色……可以拥有4000个技能点。但这并不是技能点的上限」, 信息密度低得理直气壮。真人写类型小说,就是敢这么水。

段落焊成大块

读者的原话:「机器的就是只有 3 段,真人的就有十几段。」我们回头量了数据: 真人网文段均 25 到 59 字,九成以上段落不超过两句,对话一律独段; 机器写纯叙述,默认焊出 108 到 538 字的大段,厚 4 到 19 倍。 最值得记录的是:前后十二轮里,所有机器评委对这条集体失明。 模型读的是语义,不是版面;人类先看排版,再读字。

停下来品鉴质感

机器句:「镇上人穿布鞋走石板是闷的。」读者当场判「一看就是 AI」。 这是鉴赏家停下来品世界的口吻,一种「X 是 Y 的」判断句。 真书里的感官细节几乎都挂在正在发生的事上:「天井里静了一会儿, 只听见灶膛里柴火哔剥响。」感官不单独立句,不品鉴。

人闲着,情绪不闲

第五次盲测,读者指着一段机器写的「玩家遇怪」问:这一段描写是描写了啥呢? 我们逐句拆:翻堆、听声、屏息、转身、见怪、后退、截图、发消息,十个动作,零情绪。 眼看当晚第一个五星资源点被怪拱翻,居然不心疼。真玩家必写肉疼。 真人的闲笔从来不是真闲:「没办法,谁让他是暗夜猫妖首杀呢」是酸, 「她伸手抓住它,但想了想,还是将手收回」是想要不敢, 「叼着牙签一副吃饱喝足的模样」是嘚瑟。要么带情绪,要么带声口,要么埋着盼头。

我们试过的伪装,全军覆没

知道判据不等于修得掉。十五轮里我们把能想到的伪装手段全买了一遍,逐条报废:

故意写错字,每篇加到 7 到 10 处,被一句话击穿:「错落在最安全的通假位,像做旧而非手误。」 真人的手误会错在要命处、会伤及理解,模型挑着犯错,错得太整齐。 故意留前后矛盾,被反向解读成「大模型长文生成的接缝」,现代评委知道模型会犯什么错, 模仿人类的错反而撞上模型的错型。逐句对着真人段落移植句长节奏,形状对了, 密度还是自己的。按指令添加「无功能的生活细节」,判词是 「毛边是配置出来的,不是掉下来的」。

最深的一层教训:给模型的任何修复指令,它都会执行得十全十美, 而「十全十美」正是下一轮的判据。松弛度配额被满格执行,「记不清了」的口癖被六段五现地复用, 连分段纪律都会被推过头。这在指令驱动的写作里是结构性的,换条款救不了。 出路只有换一个天生带「省事的错」的模型,真错字、真口癖、真语病装不出来, 这是另一篇文章的主题

这场实验改变了我们的哪些做法

第一,任何「找个 AI 来评 AI 味」的方案在我们这里退役了。十个模型的「像真人」评价从此只当 「面向普通读者够不够用」的参考,绝不当成色证据。第二,验收换成双闸: 开发期用与写手同代的 Claude 思考型模型当守门员(它是唯一一个判据与人类同构的机器评委, 七轮 100% 识破、零误伤),出厂前人类抽读终审。第三,要「像真人」的文字,先换模型再谈工序, 写作纪律能治套话和分段,治不了「写得太好」。

最后交代一件事。这篇讲「怎么识破 AI 文」的文章,发布前我们拿六条判据对着自查了一遍: 段落长短是故意不均的,有两节只有一句话;初稿里有一句「数据是冷的,判词是热的」, 典型的品鉴句加对仗收尾,删了;第六条判据讲完顺手写了个金句升华结尾,也删了。 判据三没法自查,「写得太好」这种病,作者自己看不见。所以按我们自己的规程, 这篇文章的终审也不是我们,是你。

常见问题

「AI 味」到底是什么?

十五轮实验后我们的答案:它不是某个词或某个句式,而是整体纹理。具体拆成六条:一批文本全是同一个腔、句子剁得太碎、执行质量好到没有一处失手、段落焊成大块、停下来品鉴质感的鉴赏句、闲笔里没有情绪。前两条改得掉,「写得太好」这条改不掉——给模型下任何修复指令,它都会执行得太到位,而「执行得太到位」本身就是新指纹。

怎么快速判断一段中文小说是不是 AI 写的?

先看版面再读字:真人网文段落平均 25 到 59 字,九成段落不超过两句,对话独立成段;机器写纯叙述默认焊出一二百字以上的大段。再看闲笔:真人的闲笔带情绪(怂、馋、心疼、嘚瑟),机器的闲笔是零情绪的动作流水。最后看整体:如果十段文本摆在一起全是同一个腔、每个细节都在为主题服务、挑不出一处失手,那大概率是机器。

用大模型当评委检测 AI 文本靠谱吗?

我们实测方向是反的。十个主流模型(GPT-5、Gemini 3.1 Pro、Qwen、DeepSeek 各档、豆包、GLM-5 等)对守纪律的机器稿识破率 0%,还把《斗破苍穹》这类真书原文批成「套路化、说明书腔」。它们对 AI 味的印象停留在「套话多、生硬」,于是不写套话的机器稿反而像人。唯一例外是与写手同代的 Claude 思考型模型,连续七轮 100% 识破、零误伤,判据与人类一致。

故意让 AI 写几个错别字,能装得更像真人吗?

不能,我们试过,每篇加到 7 到 10 处照样被识破。判词原话:「错落在最安全的通假位,像做旧而非手误。」真人的手误分布是带风险的,会错在要命处、会伤及理解;模型挑着犯错,错得太安全,这本身就是指纹。故意前后矛盾、逐句模仿真人句长、按指令添加生活化细节,全部同理失败。

怎么识破 AI 写的小说?我们花十五轮骗过了十个 AI 评委,没骗过人类 · Foreverse · 新梦