领邦智能 · VisionAgent

智能体操作检测完整 SOP

按实操视频顺序,从拖拉拽建流、相机调参、图像标注,到状态机编排与上线跑检——五步跑通「按作业标准自动盯工序」。

作者 领邦智能小魏同学 · 约 9 分钟跟练 · 图文 + 分段视频
00 · 读懂再动手

智能体盯的是「有没有按 SOP 做」,不是只拍一张 OK/NG

本篇按 VisionAgent 实操录屏顺序整理。案例工位以 AC 盒装配 演示:拧螺丝、压线、插主板等必须按固定顺序完成;漏步、跳步就停在当前状态,不放行。

整条链路拆成两块:

  • 张量流(工作流):相机怎么采图 → 模型怎么认动作 → 事件怎么触发;
  • 状态机 + 事件:每个动作是一个事件,事件按顺序推状态,完成即整圈 SOP。
工业相机 图像预处理 语义分割 事件探测 状态机

口诀:先拖链路,再教它「看什么」,最后规定「先干什么、后干什么」。

落地印象 · 约 17 秒

产线上长什么样?先看一段过程监控现场

光伏包装等工序同样可复用这套「状态机盯过程」思路。下面是现场效果短片,帮助建立空间感;后文五步则是把它在软件里配置起来的完整操作。

现场短片 · 光伏行业包装过程监控 打开 / 下载
STEP 01 · 拖拉拽建工作流 · 约 45 秒

不写代码:把检测能力拖到画布上

进入 Vision Agent → 新建张量流。左侧是算子库,中间是画布。从库里拖节点、用蓝线串端口,链路就搭好了。

演示视频 · 新建工作流(拖拉拽) 打开 / 下载

跟着做

  1. 打开新建张量流;算子库按「相机 / 大模型 / 外设 / 逻辑 / 输出」分类。
  2. 从「相机」拖入 工业相机(多路采集可选)。
  3. 切到「大模型」,依次拖 图像预处理语义分割
  4. 切到「逻辑」,拖入 事件探测状态机
  5. 端口连线:相机 → 预处理 → 语义分割 → 事件探测 → 状态机;点右上角 保存
拖入工业相机算子

起手:先落工业相机,取图入口建立。

五节点工作流连成一串

成链:五节点串完,数据从左往右走。

STEP 02 · 相机调节参数 · 约 38 秒

画面先看清,后面才认得准

点选「工业相机」节点,右侧弹出「配置张量」。目标只有一个:动作区清晰、不过曝、帧率够用、只采有效 ROI。

演示视频 · 相机参数调节 打开 / 下载

视频里重点调的项

  1. 输出张量:图像格式(如 NCHW)、帧率(演示约 10 fps)、相机 IP。
  2. C0 曝光时间:单位 μs;越亮环境越短。注意上限约等于 1,000,000 ÷ 帧率。
  3. C1 增益:暗场可略抬,优先补光,少靠增益硬提。
  4. C2 ROI:如 0,0,1920,1200,只采工位区域,省算力。
  5. C3 伽马:演示约 0.7,小于 1 暗部细节更稳。
  6. C6 触发模式:装配监控常用「连续采集」;触发防抖可设几毫秒,减少误触发。
相机输出配置界面

输出侧:帧率、IP 一眼看完。

曝光增益ROI等参数列表

配置侧:曝光、增益、ROI、伽马、触发逐项落地。

合格标准很简单:手套、扳手、线材边缘清楚,动作区不发白、不发灰。

STEP 03 · 图像标注与推训 · 约 3 分 13 秒

少样本教会模型:这一步长什么样

双击「语义分割」进入标注页。案例项目类似 AC盒_Proj,图库可到近 200 张;每类动作只需涂几张关键帧即可示教。

演示视频 · 标注与推训 打开 / 下载

跟着做

  1. 在类别下拉中选动作,例如 NG1 锁紧螺丝1
  2. 工具栏选 多边形(或画笔),把工具 / 手部 / 动作关键区涂成掩膜。
  3. 右侧筛「已标注 / 未标」「良品 / 不良」,一张张推进;点 保存标注
  4. 迁移 启动少样本训练;用 检测 预览,用 迁移曲线 看进度。
  5. 参数里维护类别表(锁紧螺丝、压四色线、插主板…),需要时打开「显示涂抹 / 缺陷名称」复核。
多边形标注动作区域

示教:在俯拍工位上圈出「锁紧螺丝1」动作区。

类别参数配置列表

类别表:把 SOP 各动作登记成可识别标签。

和大模型配套的「少样本」路线:几张关键图就能起模型,不必先堆几千张才敢上线。

STEP 04 · 状态机配置 · 约 4 分 25 秒

把作业指导书,画成可跑的状态图

模型会认「发生了什么」还不够,还要规定「该按什么顺序发生」。双击「状态机」节点,打开状态图与 GPU 事件编排。

演示视频 · 状态机编排 打开 / 下载

跟着做

  1. 顶部用 + 状态 / + 事件 / + 动作 搭图:圆是状态(S0、S1…),箭头是事件(E0、E1…)。
  2. 双击节点改名,如「锁紧1前」「插入1前」——表示「下一步还没做完,人卡在这条门槛」。
  3. 右侧「事件张量」维护可选动作,案例中常见:
  • 锁紧螺丝1 / 锁紧螺丝2
  • 插入线材端子
  • 压入四色线
  • 卡入红黑线
  • 插入主板
  • 拉出多余线材
  • 压入线至外壳
  1. 每个事件进 GPU 事件编排器:拖「物体存在」等原语,绑定目标类别与检测区域。
  2. 动作被视觉确认 → 状态前进一步;漏做 / 跳步 → 停 NG,可接报警或 MES。
状态图编辑器

状态图:S0→S1→… 一步做完才能进下一步。

GPU事件编排界面

事件编排:用「物体存在」绑定「压入四色线」等类别。

这一步的价值:从「看外观好坏」升级到「盯过程有没有按标准做」。

STEP 05 · 检测开始 · 约 25 秒

一键运行:左看现场,右看 SOP 进度

保存后进入运行页(如 /#/run)。案例项目名「AC盒」;顶栏可看 GPU/CPU;红钮随时停。

演示视频 · 启动检测与实时监控 打开 / 下载

界面怎么读

  1. 左「实时监控画面」:俯拍工位实况,可见已采集数、队列深度。
  2. 右「事件」列表:SOP 各步;动作确认后亮绿色勾。
  3. 底「状态」条:当前门槛(如「锁紧1前」)高亮,告诉你做到哪了。
  4. 整圈完成回到初态,等下一件;异常则停留提示,避免问题件流入下工位。
事件列表已完成打钩

事件打钩:某步检出完成,列表即时更新。

状态机进度条高亮

状态推进:流程条同步显示当前节点。

收束

一页纸记住五步

  1. 拖:相机 → 预处理 → 分割 → 事件 → 状态机。
  2. 调:曝光、ROI、触发,保证动作看清。
  3. 标:多边形示教 → 迁移推训 → 检测复核。
  4. 编:状态图 + 事件张量,把 SOP 写进软件。
  5. 跑:运行页盯画面与步骤;OK 放行 / NG 拦截。

一句话:智能体把「工艺员脑袋里的 SOP」变成「视觉系统自动执行的状态机」——换机型主要是补样本、改图,不必重写整套传统项目。

领邦智能小魏同学 整理自 VisionAgent 实操演示,供对内培训与客户方案阅读。