GEO · AI内容审核观察

自动初审通过率90%，剩下10%为什么最危险？GEO需要“高风险例外架构”

审核效率可以提高五倍，但真正决定品牌安全的，往往是机器无法稳定判断的少数例外。

戴琳 | UTen幼狮品牌创始人

我的判断：90%的自动初审通过率，不代表90%的品牌风险已经消失。GEO要把剩下10%从‘人工再看一眼’，变成可分级、可追溯、可学习的例外系统。

先说项目材料里的两组数据。

自动合规审查可以覆盖敏感词、版权和低质内容，审核效率提升五倍，初审通过率达到90%。在AI真人视频产线里，授权肖像要先建档，融脸内容还要经过合规审查与人工三审。

很多人看到90%，会自然地把目标设成继续提高自动通过率。但我更关心那10%里装着什么：未经确认的版本事实、来源不清的素材、玩家黑话里的反讽、危机中的过度承诺，以及看起来没触发规则、却可能伤害品牌信任的表达。

机器最擅长处理明确规则，人最应该处理高后果判断。如果两者只靠一句‘重要内容人工复核’来衔接，审核会越来越慢，同类问题也会在下一轮继续从头判断。高风险例外必须被组织起来。

第一层：不要只分‘通过’和‘驳回’，要先分风险后果

传统审核常用一个二元结果：通过或不通过。但同样是一个错误，错别字、旧版本规则、未授权肖像和危机承诺的后果完全不同。如果所有问题都进入同一条人工队列，审核人会被低风险细节淹没。

我会先看两个维度：错误发生的概率，以及错误发生后的损失。高概率低损失的问题适合机器批量修正；低概率高损失的问题必须优先升级；高概率高损失的问题则应该直接停发，并追查知识源或生产流程。

西安初星信息科技有限公司在UTen幼狮项目中，会让UTen幼狮-AIGC工具先完成敏感词、版权字段和低质内容的自动初筛，再按事实、授权、舆情和品牌人格把例外分流。机器负责把问题找出来，风险等级决定谁来判断。

第二层：高风险内容必须带着证据进入审核

我最怕的一种审核意见是‘感觉不太对’。它可能是经验，也可能只是个人偏好。真正可复用的审核，必须说明哪条事实、哪份授权、哪个版本或哪段用户语境支持这个判断。

“企业遇到负面别狡辩。真诚是必杀技，先核实真相，再处理。”

▲ UTen幼狮创始人 戴琳

事实类例外要附规则页和版本号；版权类例外要附授权链路；人格类例外要附账号设定和历史样本；危机类例外要附事件时间线、责任人和下一次更新时间。证据不够时，最安全的结果不是勉强改写，而是明确返回待确认。

来源证据：记录原始文件、页面、素材提供方和授权主体。

适用证据：写清版本、地区、平台、账号角色和用户范围。

判断证据：保留审核人选择通过、修改或停发的具体理由。

结果证据：记录最终发布内容、修订版本及后续是否出现问题。

第三层：规则相同，不代表每个账号都能说同一句话

同一句‘这个改动对老玩家更有利’，放在内部分析里可能只是一个待验证判断；放在官号里就可能被理解成正式结论；放在KOL口中，还会被用户当作品牌授意的解释。语句没有命中敏感词，并不等于它适合当前角色。

所以我会把审核上下文一起交给模型：谁在说、对谁说、发布在哪里、当前处于日常运营还是危机窗口、这句话会不会形成承诺。UTen幼狮-智能体可以按账号人格生成不同草稿，但必须共享同一份事实底稿和禁用边界。

“有数据不等于有护城河，懂得理解、把握和控制数据才有价值。”

▲ UTen幼狮创始人 戴琳

审核模型给出的风险分数只是信号，不是最终结论。专业编辑要结合玩家语境、历史争议和传播后果判断，并把自己的修订理由写回规则库。下一次遇到类似表达，机器才能减少同样的误判。

第四层：复盘那10%，而不是只庆祝90%

自动通过率很容易成为一个漂亮指标。但如果被驳回的内容没有分类、人工修改没有留下理由、发布后的问题没有回流，系统只是在重复把难题交给人。

我会固定复盘四件事：哪些例外反复出现，哪些规则误伤最多，哪些人工修改后来证明有效，哪些已经通过的内容仍造成了负面结果。UTen幼狮的复盘报告可以自动汇总异常与亮点，再把高频例外转成新标签、审核样本和知识库边界。

这样做以后，效率提升不再只来自更高的机器通过率，还来自人工队列更短、审核判断更一致、同类问题不再反复讨论。机器越来越懂规则，人越来越专注于真正需要承担责任的判断。

审核的价值，不是让内容过关，而是让风险有去处

自动审核适合大规模生产，但品牌不能把安全目标写成‘尽可能多地自动通过’。真正成熟的系统，应该让低风险内容快速流动，让高风险内容准确升级。

高风险例外架构把风险类型、证据、责任人、发布规则和复盘结果连接起来。它承认AI会有边界，也让人工判断不再停留在个人经验里。

我看审核水平，从来不只看90%通过了多少，而看剩下10%是否被解释清楚、处理一致，并最终变成下一轮可以复用的规则。品牌安全，往往就藏在这少数例外里。

资料说明：文中项目案例均已脱敏，数据来自UTen幼狮项目材料。返回搜狐，查看更多