大模型视觉 · 过程点检 / 落地实践
工位相机实时识别包装件与动作节点,按 SOP 状态机逐步确认——漏放、漏步、错序当场可见,检测记录可追溯。
S0–S6 状态图管理七步推进,非预期事件一律自环——跳步不推进,缺步走不到终点。包装是产品出厂前的最后一道人工工序,也是最容易「看起来没问题」的一道:箱子封好了,里面少一份说明书、少一块背板、泡沫纸没垫,从外面都看不出来。这个工位 30 秒出一件、七步逐步确认,难点在于料件多为白色薄软物、节拍快,还经常换型换箱规。
01/6关键矛盾
把问题拆开看,这道工序难在三处:封箱后内容物不可见,终检称重、抽检只能抓住部分缺件;人眼盯 30 秒一件的连续包装不可持续,事后翻录像也难复核;箱规和步骤一换,靠专用外观模型的旧办法就要重采重训,跟不上换型节奏。
所以方案的选择是:把问题定义为「包装步骤是否按顺序发生」,而不是「再训练一个专用外观模型」——用视觉大模型看见料件与动作,用状态机判定顺序,用边缘侧实时输出。换箱规、换步骤主要改配置,不必长期驻场训练。
关键矛盾不是「看不看得清」,而是「看得见却留不住证据」:封箱前每一步都要留下可复核的判定。
02/6张量流
视觉智能体软件部署在边缘侧,检测任务的配置、执行、展示和结果输出都在同一套软件里。本案例通过零代码拖拉编排完成配置:从左侧算子库拖出算子、按数据流向连接,不需要写算法代码。
三个子编辑器都靠双击节点进入:语义分割 → 标注工具(界面 02),事件探测 → GPU 事件编排器(界面 03),状态机 → 状态图编辑器(界面 04)。同一份配置跑起来逐步打勾的样子,见页首视频。
03/6少样本分割
包装料件多是白色薄软物,还常隔着透明袋:泡沫纸会皱、说明书会歪、背板贴着箱壁。这类目标用框回归很难贴合,本方案用像素级语义分割——每类 1–10 张现场样本即可在标注工具里定下来,输出掩膜后做存在与面积判定。
| 分割类别 | 样本(示意) | 用途 | 判定 |
|---|---|---|---|
| 底板 | 4 张 | 起点 / 终点在位 | 掩膜出现 → E0 / E6 |
| 泡沫纸 | 5 张 | 缓冲层铺放 | 掩膜面积 ≥ 阈值 → E1 |
| 纸箱 | 5 张 | 箱体到位 | 掩膜面积 ≥ 阈值 → E2 |
| 纸箱(翻转后) | 同一类别 | 箱体翻转确认 | 分割 + 角度检测 → E3 |
| 背板 | 5 张 | 背板装入 | 掩膜面积 ≥ 阈值 → E4 |
| 说明书 | 4 张 | 随箱文件放入 | 分割 + 数量检测 → E5 |
「翻转纸箱」不另建类别:同一个纸箱掩膜,翻转前后的长短轴比与主轴角度明显变化,用角度检测原语区分即可——少一类目标就少一轮标注。训练与推理都在边缘 GPU 本地完成,工位画面不出厂;换型补样本再迁移一轮即可。
04/6事件判定
分割只负责看见像素,业务要的是「泡沫纸到位」「说明书放入」这类可判定事件。事件清单在状态机里定义,判定逻辑在 GPU 事件编排器里搭:从原语库拖判定积木、配参数,再用「与 / 或 / 非」组合成成立条件——改判定只动参数,不必重训模型。
05/6状态机
右侧工作流不是展示清单,而是 SOP 状态机:S0–S6 七个状态对应七步等待,E0–E6 七个事件推进转移。顺序强制不靠额外写 NG 规则,而是靠「非预期事件一律自环」:跳步不推进,缺步走不到终点。
S0 等待起点底板,S1–S6 依次等待泡沫纸、纸箱、翻转、背板、说明书、终点底板;E0–E6 连接相邻状态,E6 完成回到 S0 等下一件。
一件包装完成七个事件全数推进才算 OK;说明书没放进去,S5 就一直等,终点事件即使发生也不推进,这一件不会记成 OK。
06项目体会
这个项目最深的体会,是现场要求与系统之间需要一次完整的「工程翻译」。「按 SOP 把件装齐」听上去只有一句话,真正落地时,识别哪些料件、怎样判定每一步、什么情况算漏放、结果怎样留存,每一项都要明确口径。
这项要求经历了三层拆解:
S0–S6 状态图规定推进关系。三层对齐后,模型的识别结果才进入现场流程。本工位实测单件耗时 32–39 秒,异常件的耗时会明显偏离——耗时本身就是一个可用的巡检线索。这套做法的适用边界也很清楚:适合料件多、步骤多、换型频繁的人工包装工位;箱内深腔遮挡的小件,需要工艺配合或加近景相机。
回看整个项目,四个问题贯穿实施过程:系统看什么、什么时候算完成、什么情况算漏放、结果怎样留存。
Leo
视觉智能架构师 · 工业过程点检方向负责人
计算机视觉方向博士,研究方向为少样本分割与视频行为理解;12 年工业视觉一线经验,累计交付 30+ 条产线、100+ 工位。
主张把过程点检从「一工位一专用模型」迁移到「少样本分割 + 事件编排 + SOP 状态机」,让判定逻辑与感知模型解耦,改手顺不必重训。
当前关注边缘 GPU 推理优化、跨域泛化与现场数据闭环——让同一套配置方式在不同工厂、不同工艺之间可复制。文章记录项目实施中的实际配置、判断逻辑与现场结果。
点击任意处关闭