正在刊行长文 · Essay
2026-06-26所有内容
随机比特 · Random Bits

AI 落地最贵的不是模型

2026-06-26AI Engineering / Systemsrbits.uk
AI 落地最贵的不是模型

上个月福特拿了个第一——JD Power 新车质量榜,主流品牌里排第一,十六年来头一回。

拿第一的方式不太好看:他们把 AI 质检搞砸了,不得不回头打电话请 350 位退休工程师回来救场。

福特 VP Charles Poon 在媒体会上说了一句很少在大公司听到的实话:“我们错误地以为,只要把 AI 灌进设计需求,就能自动产出高质量产品。”

这句话的信息量,比任何一篇"AI 将颠覆制造业"的通稿都大。它暴露的是一整层被忽略的成本。

先看福特到底出了什么事。

AI 看走眼了。更致命的是,那些知道"看走眼意味着什么"的人,已经不在了。

工程师圈有个老概念叫隐性知识——有人在这条线干了十五年之后,看一眼零件表面反光就知道这批供应商换了模具。夏天知道这个部位的塑料会膨胀零点三毫米而冬天不会,但规格书上写的全年统一。能闻出来润滑脂的型号不对,虽然所有检测参数都绿。

这类知识不成文、不量化、不在任何训练集里。它只在人的脑子里。福特低估了自己身上这一层知识有多厚。退休老师傅走的时候,带走的不只是记忆,是这个组织四十年的"感觉"。AI 接手的是一个抽空了经验的质检岗:它能判断"是否在公差内",但它判断不了"这在公差内但三个月后一定会响"。

01-隐性知识与数据鸿沟

这种事往前看看,麦当劳撤掉了 AI 得来速点餐,加拿大航空的客服机器人因为乱承诺退款被法院判赔,雪佛兰经销商的 AI 销售被用户玩到答应一块钱卖车——每一个案例拿出来说,都有人讲是"AI 准确率不够"。但多看两遍就会发现,核心问题是谁为那 5% 的误判负责。

麦当劳的 AI 听错一个定制要求,做出一杯加了六份糖浆的咖啡,顾客骂的是麦当劳而不是算法公司。加拿大航空的机器人承诺了一个不存在的退款政策,法院判的是航空公司赔钱,而不是模型供应商。AI 搞错的那一刻,扛责任的人是那个以为"部署 AI 就能把人省掉"的决策者。

这才是福特故事里最要紧的东西——AI 上线之前,没人问过三个问题。

第一:AI 给出一个 60% 置信度的"疑似缺陷",谁来拍板停线还是放行?

产线上最贵的决定是"这一批全停还是继续跑"。老师傅能做这个决定,是把一辈子的经验、昨天夜班的异常报告、供应商最近换了批次、下周要交付的订单压力全揉在一起,在五秒之内下的。AI 给出一个概率,停还是不停?没有人负责这个判断,AI 就是个摆设。

第二:AI 漏检的缺陷造成召回,追责链能不能穿到人?

福特的召回数量在行业里排第一。如果是一个老师傅漏检的,能追到这个人、这个班次、这个培训记录,能把教训写进操作手册。如果 AI 漏检的——算法团队说数据不够、数据团队说标注质量不行、标注团队说验收标准没定清楚。一圈下来,召回报告上写四个字:系统误判。组织不长记性。

第三:产线换了批次、换了季节、换了供应商,AI 开始集体把好零件判成缺陷——这件事谁负责发现?

AI 最麻烦的地方在于它是悄悄坏掉的——冬天到了,零件反光率变了,AI 开始拒绝一切,良品率从 98% 跌到 85%,产线经理以为供应商翻车了,查了两个月才发现是模型没见过冬天。这种"慢慢坏掉"的错误,AI 自己没有痛觉。必须有人盯着整条线的异常,盯着那些识别率数字之外的东西。

这三个问题,福特都是在出问题之后才答出来的。而它们恰恰应该是在 AI 上线之前就被问穿的问题。

看懂这层,再回头看福特的补救方案——它没有选择把 AI 再训一版。它做的是把组织结构里的窟窿补上:回聘 350 位经验工程师,拉出一个 40 人专职软件质量团队,把原来散在各个部门的质检流程拧成一条线。从"发现缺陷再修"变成"防止缺陷出现"。归结起来就是:从靠机器找事,变成靠人管住机器找事的流程。

这个代价比任何 GPU 集群都贵。

产线 AI 是一个角色——要对错负责、要被追责、要能被复盘、要能被改进,远不止一台识别设备。准确率 98% 的 AI 和准确率 95% 的人之间差了三个百分点,但这三个点的距离,是人搞错之后有一个岗位在扛,而 AI 搞错之后只有一行日志。

这种事在科技公司里太常见了——某个部门宣布 AI 客服已全面上线,翻进去一看,背后十人小组二十四小时盯着异常案例人工兜底。AI 在前面跑,人在后面追——这和上线是两回事。

福特捅破的这层窗户纸,把三件事讲清楚了:模型精度只是入场券。误判以后的责任链设计,才决定了你能不能在产线上真正把灯关掉。答不出那三个问题的 AI 项目——不管宣传片拍得多好、不管模型跑分多高——都不算上线。

是悬在产线上的一行免责声明。

随机比特公众号二维码
公众号 · 随机比特
从 AI 工具热闹里拆工程真相

写边界、控制面、上下文、成本与安全。