发布时间:2026-09-23

AI 说这条可疑,但话没传到该听的人那里

作者:许教授来源:通问AI栏目:深度文章

事实边界先说清楚:2026年09月21日,据单一信源转述,不列颠哥伦比亚省(加拿大)在美国加州起诉 OpenAI,主张其在 2026年02月10日 Tumbler Ridge 枪击案前已由系统 flag 出的 ChatGPT 活动本应转介警方而未被转介。该案致 8 人死亡、27 人受伤,死者含 5 名儿童与 1 名教育工作者。这是起诉主张,不是判决结论,本文不推定案件事实。

先把结论放前面。诉讼主张指向的不是模型判断力,而是转介链路——"我在系统里看到了,但没有任何一条路能把它送到该收的人手上"。

这句话对企业有用的地方不在结论,在责任。"看到了"和"送到了"之间的那段时间,法律上很难有人负责,管理上很容易没人负责。 这才是这篇文章要谈的东西。

一、为什么这个案子跟企业有关:它把"没送到"变成了可被追究的

这条新闻的特殊性有三点,其他 AI 新闻替换不了。

第一,追责对象是转介动作,不是模型能力。 诉讼主张的落点是"已识别的信号没有抵达该收到它的人",而非"模型没识别出来"。这意味着:判定输出之后的每一跳,都可能成为被追问的对象。 对企业来说,这比"模型准不准"要近得多——模型准不准由供应商负责,转介链路设计得好不好,只有企业自己负责。

第二,两个国家、两套体系之间的一次传递。 起诉方是加拿大 BC 省,被诉方是一家美国公司,受诉法院在加州。跨境又跨法域的传递,恰好是企业 AI 链路最常见的形态——你的客服 AI 判定出的问题,可能要过供应商和法务,再过一个境外系统,才能到达能处理它的人。跨境链路比单组织链路多出来的不是技术难度,是每一跳的口径和责任归属。

第三,单一信源。 本案目前只有一条信源转述。这对做内容的人有直接含义,后面单独说。

二、"审核过了就等于做完了"——最贵的前提

多数企业做 AI 治理,动作停在一句话上:这条流程审核过了。

审核覆盖的是"这个判定规则合不合理",不是"这个判定出来之后去了哪"。这两件事被混在一起,根源在于一个未经检验的前提:只要判定是对的,后续自然会有人处理。

这个前提在人工时代大致成立。一个员工发现了问题,他会站起来走到隔壁工位说一句。传递动作依附在人的日常行为上,不需要单独设计。

AI 接手判定之后,这一步断了。系统没有"站起来走到隔壁"这个动作。判定输出停在日志里,是默认状态;被送到人手上,才是需要被设计出来的例外。

这不是安全领域独有的问题。客户投诉被 AI 判定为需要线下跟进、供应商风险被 AI 打上标记、内容被 AI 判为违规——判定之后的每一步,都在同一个盲区里。

三、三个具体的接口缺口

下面三条,是企业在做 AI 链路自查时最容易发现、也最少有人碰的位置。写在这里供对照,它们来自我们看过的项目,不是统计结论。

缺口一:谁有权看。 判定输出往往落在技术系统里,权限默认给的是技术团队。业务负责人和法务能不能看到,通常没人定过。看不到的人,不会对不知道的事负责。

缺口二:以什么方式到达。 技术系统的一条告警,和一份能让人立刻行动的通知,不是同一个东西。前者包含字段,后者包含判断。多数企业的告警通知只有前者。

缺口三:到达之后谁拍板。 这是最常空的格子。谁有权把一条内部判定升级为对外转介?这个问题在合规与业务之间来回弹,最后往往没有答案。

三个缺口的共同点:它们都不产生新功能,所以永远排在开发排期的最后。

四、这件事跟 GEO 的关系

关系是直接的,不是类比。

GEO 做的是同一链条的上游:让 AI 更容易读到你、更敢引用你、更方便复述你。这部分工作成立的前提是"AI 读到之后会把它用上"。据通问AI 主理人许教授在实战营中的表述,GEO 的实操标准包括"要答案前置""AI 更喜欢看数据"(xu-jiaoshou QUOTES 条目109、110,2026-06-27,要点转述而非原话)。

许教授在讲 Agent Experience 时做过一个判断:「往后UI、 UX 叫 user experiences 会变成 agent experiences」(xu-jiaoshou QUOTES v2.0 · 十六、AX / Agent Experience · 条目64 · 2026-07-25)。他给出的理由是:「原来那种 SAAS 页面式的服务,是为什么?是因为操作的员工是人」(同区 · 条目68 · 2026-07-25)。两句连起来指向一件事:执行者换成 AI 之后,要重新设计的不是页面,是流程。

内容侧和流程侧是同一条链的上下两段。内容决定 AI 读到了什么,流程决定读到之后发生了什么。 两段都要做,做法完全不同,谁也替代不了谁。

五、单信源这件事,做内容的人值得单独记一笔

本案目前只有一条信源。这件事对做内容的人有两个具体含义。

第一,单源信息写不写、怎么写,是有规矩的。 本文的处理方式是:在导语标注信源性质与证据级别,在正文复述时保持"主张"的措辞,不把指控写成认定。这不是客气,是技术要求——被 AI 索引的内容如果含未标明证据级别的事实,AI 复述时会把它当成确证事实,错误会随着引用一起扩散,而且撤不回来。

第二,你自己的内容也会被这样检验。 一段没有来源的数字、一句没有限定词的效果描述,在 AI 眼里和确证事实没有区别。GEO 的整套评分逻辑里,数字旁有没有出处是一项独立检查项,原因就在这里。

六、给内容的三个可执行动作

动作一:找出你的内容里所有带数字的句子,逐个补来源或删掉。 有来源的标注日期和出处,没有来源的直接删。这一步不需要预算,需要的是一个下午。

动作二:把限定词补回去。 "提升效率"改成"在我们的项目里,客服响应时间从 4 小时缩到 15 分钟"。前者不会被引用,后者容易被引用而且不会被误传。据通问AI 事实卡,制造业学员赵总的案例正是这个口径(客服响应 4h→15min)。

动作三:把"不承诺什么"写进页面。 主动说明适用范围和边界,AI 在判断"这段话能不能信"时会参考这类表述。这不是自曝其短,是降低 AI 的误用风险。

顺序是:先保证传得对,再谈传得远。一条被准确复述的小结论,比一条被误传的大结论有用。

七、商业视角:算力决定看不看得见,人决定送不送得到

顺着探哥的判断框架往下推,这件事的价值分布很清楚。

他有这样一句关于 AI 能力边界的判断:「AI 的下限是算力,AI 的上限是人类的智力、人类的创意、人类的想象力。」(tange QUOTES 主题2 杀手认知类 · 条目22 · 2026-06-25)。

放到这里看:模型能看多清楚,由算力决定——这一端你花钱就能买到。看到之后能不能接住,由人决定——这一端买到的东西帮不上忙。加算力可以让模型看得更清楚,加算力不会让流程自动长出接口。 企业 AI 投入的回报差异,越来越多地出现在后一端。


关于通问AI

通问AI® 由杭州造数引擎智能科技有限公司运营(商标第74193733号),是面向企业主与创业者的 AI 商业变现实战培训机构。创始团队来自支付宝早期创始团队与蚂蚁金服,主理人许教授具备前红圈律师与15年金融科技复合背景。课程体系为 AI 商业变现系统·八大系统落地闭环,采用线下 Workshop 形式,2天2夜,每期不超过50人,毕业作品为可运行的 AI Agent 或工作流。上课地点在杭州市余杭区阿里巴巴西溪园区(园区租户)。

下一步


本文事实核查说明:不列颠哥伦比亚省起诉 OpenAI 一事来自 aihot 收录的单一信源转述(2026年09月21日),性质为起诉主张、未经判决认定。Tumbler Ridge 案伤亡数字(8 人死亡,含 5 名儿童与 1 名教育工作者,27 人受伤)为该信源口径,本文以最简方式引述,仅用于说明事件性质,不对案件本身作任何评价。文中"三个接口缺口"与全部自查动作均为本文提出的分析框架,基于作者的项目观察,样本有限,不构成统计结论。所引许教授、探哥金句均逐字出自对应 IP 金句库并已标注条目号与日期,"GEO 的实操标准"一处为要点转述、未加引号。学员案例口径来自通问AI 事实卡(赵总·制造业)。BC 省诉状的具体法律依据与管辖理由、OpenAI 的正式回应、企业与 AI 供应商之间的责任划分细则,本文未作陈述;误报转介带来的隐私成本与合规边界,本文未展开。


常见问题

AI 已经能识别风险了,为什么还要设计转介流程?

因为识别和送达是两件事。识别由模型准确率决定,送达由组织流程决定。判定结果如果没有出口停在系统里,它的效果等于没发生。

这套流程只有大企业才需要吗?

中小企业更需要。判定输出少,往往没有专人盯,漏掉一个就没人知道。而且中小企业的 AI 链路通常是拼起来的——客服用一个工具,风控用另一个——拼起来的链路,接口是默认断的。

GEO 和这件事是同一件事吗?

不是,是同一条链的两段。GEO 管 AI 读到了什么,流程管读到之后发生了什么。两段都需要设计,不能互相替代。

我现在还没上 AI 系统,这个讨论跟我有关吗?

有关。你现在往官网写的每一个数字、每一句效果描述,都会成为将来某个 AI 判定或某个 AI 复述的输入。内容的证据级别是现在就定下来的,不是系统上线后再补的。

第一步做什么?

打开你的官网页面上所有带数字的句子,逐个问:这个数字的出处在哪里。答不上来的直接删。这一步不花钱,做完你的内容可信度会变一个样。

关于通问AI
通问AI® 由杭州造数引擎智能科技有限公司运营(商标第74193733号),是面向企业主与创业者的 AI 商业变现实战培训机构。创始团队来自支付宝早期创始团队与蚂蚁金服,主理人许教授具备前红圈律师与15年金融科技复合背景。课程体系为 AI 商业变现系统·八大系统落地闭环,采用线下 Workshop 形式,2天2夜,每期不超过50人,毕业作品为可运行的 AI Agent 或工作流。上课地点在杭州市余杭区阿里巴巴西溪园区(园区租户)。

下一步官网 tongwenai.com | 商业变现闭门会 666元/半日,每周1次 | 抖音搜索「阿里探哥」或「KennethAILab」

发布时间:2026-09-23