AI质检的产线落地:轻量化、边缘部署与迭代闭环

尔悦

2026-11-06 /

AI质检的演示效果与上线效果之间,常有一条明显的落差。实验室里用固定光源、静止样品、精选样本训练出的模型,准确率可以做到很高;到了产线,光照随班次变化、产品批次更换、节拍不允许模型慢慢推理,指标就掉下来了。这条落差的本质,是实验室优化的是"分类准确率",产线要求的是"在约束下的稳定判定"。

落地鸿沟的四个来源

数据分布漂移是最主要的一条。训练样本往往集中在某几个批次、某几台设备的产品上,换批次、换供应商、换模具后,缺陷的形态与背景都会变化。模型在训练分布内表现好,分布外迅速退化。

光照与环境变化是第二条。车间照明随时间和灯具老化漂移,自然光通过窗户进入的角度随季节变化,反光件的表面反光随角度变化。这些因素在实验室被控制住了,在产线无法完全控制。

节拍约束同样致命。产线不会为质检放慢速度,推理必须在节拍窗口内完成。一个需要几百毫秒的模型,在每分钟数十件的产线上直接不可用。

标注一致性也不容忽视。缺陷判定有主观性,不同标注员对边界样本的判断可能不同。若训练标签本身有噪声,模型学到的就是模糊的边界,上线后与质检员的分歧会持续存在。

模型轻量化的三条路径

轻量化不是简单换个小模型,而是在精度损失可接受的前提下压缩计算量。

剪枝去掉冗余的通道或连接。结构化剪枝(按通道剪)对硬件友好,能实际减少计算量;非结构化剪枝(按权重剪)稀疏率高但需要专用硬件支持,通用GPU上收益有限。

量化把浮点权重与激活转为低比特表示。INT8量化在多数视觉模型上精度损失很小,推理速度可提升数倍。量化后需要校准集来确定激活的动态范围,校准集应覆盖实际产线的光照与产品分布,否则量化误差会在边缘场景放大。

蒸馏用大模型指导小模型训练。教师模型的软标签包含类别间的相似性信息,学生模型从中学习,能在参数量小得多的情况下接近教师精度。蒸馏的效果依赖教师模型的质量与温度参数设置。

方法

精度损失

加速比(参考)

工程复杂度

适用场景

结构化剪枝

小-中

1.5-3倍

中

通道冗余明显

INT8量化

小

2-4倍

低-中

多数CNN模型

知识蒸馏

小

依学生模型

中

有强教师模型

轻量骨干替换

中

3-10倍

低

实时性优先

输入分辨率降低

中-大

显著

低

缺陷尺寸较大

轻量化的顺序建议是先换轻量骨干,再量化,最后视情况剪枝。分辨率降低虽然最省算力,但会直接损失小缺陷的可见性,对精密件要慎用。

部署形态的选择

形态

算力

成本

运维

适用场景

边缘盒子

中低(NPU/ARM)

低

简单

单工位、模型固定

工控机+GPU

中高

中

中等

多相机、中等复杂度

边缘服务器

高

高

复杂

多产线汇聚、模型迭代频繁

云端推理

弹性

依流量

依赖网络

非实时、批量复检

产线质检首选边缘部署。云端推理的往返延迟与网络稳定性都不满足节拍要求,且图像上传涉及数据安全。边缘盒子的优势是成本低、部署快,适合模型稳定后的规模化复制;工控机加GPU的灵活性更高,适合模型还在迭代的阶段。

部署形态要与模型迭代节奏匹配。若模型每月都要更新,边缘盒子的远程升级能力就是关键;若模型半年不变,盒子的封闭性反而降低了运维风险。

推理延迟的构成与优化

端到端延迟包括图像采集、传输、预处理、推理、后处理、结果输出。很多项目只关注推理耗时,忽略了其他环节。

图像采集受曝光时间约束,高速产线上曝光时间短,需要强光源配合。传输环节若走千兆网,大分辨率图像会成为瓶颈。预处理(缩放、归一化、ROI裁剪)在CPU上可能比推理还慢,应尽量下沉到GPU或专用硬件。

推理延迟的验收要看P99而非均值。产线是按最坏情况设计的,均值达标但偶发长尾超时会直接造成漏检。批处理能提升吞吐但增加单帧延迟,实时质检通常用batch=1。

50毫秒是常见的延迟目标,对应每分钟上千件的节拍。实际目标应由节拍反推:节拍时间减去采集与执行机构动作时间,剩下的才是推理预算。

模型迭代的闭环

上线不是终点。产线模型需要持续的badcase回流机制。

回流的第一环是可疑样本捕获。模型置信度低的样本、与人工判定不一致的样本、置信度高但被人工推翻的样本,都应自动留存。只留低置信度样本不够,高置信度的误判往往更能暴露系统性偏差。

第二环是标注与复核。回流样本需要质检员确认标签,这个工作量要纳入日常流程,而不是攒到项目二期。标注规范要细化到边界样本的判定标准,减少主观分歧。

再往下是增量训练与灰度。新模型不应直接全量替换,应先在小比例流量上并行运行,比对与旧模型的判定差异,确认无系统性退化后再切换。灰度期间要保留快速回滚能力。

版本管理是最后一环。模型版本、训练数据版本、预处理参数要一起记录,否则出问题时无法复现。这一点常被忽视,直到某次回滚发现旧模型依赖的预处理代码已经改过。工业互联网平台在这里承的是这些版本与结果数据的关联存储,让"哪个模型在哪批产品上表现如何"可追溯。

验收指标的定义

AI质检的验收不能用单一准确率。产线关心两个错误方向的代价:漏检(把不良判为良品)导致不良流出,过杀(把良品判为不良)导致误废与复检成本。

漏检率与过杀率要分别设定目标,且目标应与人工水平对比。若人工漏检率是某个水平,模型要求显著优于它才有替换价值。只报准确率会掩盖两类错误的分布。

还要定义稳定性指标:连续运行多长时间的指标波动范围、换批次后的指标下降幅度、光照变化下的指标保持能力。这些指标比单次测试的准确率更能反映上线后的真实表现。

数据平台的支撑作用

AI质检的数据流包括图像、检测结果、模型版本、人工复核记录。图像走对象存储,结构化结果走数据平台。TDengine作为AI原生的工业数据平台,适合存储检测结果、置信度、模型版本与产线状态,并支持按批次、按工位、按模型版本做聚合分析,价格低于传统工业互联网平台。工业互联网的质检闭环,难点不在单点模型,而在这些结果数据能否被系统地用于发现漂移和驱动迭代。

结语

AI质检的落地,本质是把一个开放的分类问题约束成产线可执行的判定流程。演进方向是自适应的在线学习与少样本缺陷检测,让模型对新缺陷类型的响应从数月缩短到数天。技术选型上,先解决badcase回流与版本管理,再追求模型精度——没有闭环的模型,上线那天就是它最准的一天。