在线缺陷检测
产线旁路或在线推理，强调延迟。
Context
为什么卡在这里
产线检测对时延和稳定性要求高于实验室。模型要持续迭代，采集图像还要归档，算力、存储和产线节拍必须对齐。
要解决的问题
- 缺陷图像推理延迟高，跟不上节拍
- 模型再训练周期长，难以及时更新
- 采集与归档 IO 成为瓶颈
- 产线要 7×24，稳定性要求高
元枢怎么做
- GPU 并行推理服务，压低单张/批次延迟
- 训练与推理资源隔离，更新模型不影响产线
- 采集归档存储按吞吐设计
- 产线侧稳定性验证与驻场
已在半导体检测产线实际运行中验证稳定性。
Scenarios
适用场景
同一套算力底座，按业务入口拆开用。
模型再训练
用新样本迭代检测模型。
图像归档
高吞吐写入与检索。
多产线复用
统一推理池，多线共用。
Reference Config
参考配置（可按 POC 调整）
不是固定报价单——先对齐 workload，再锁档位。
Line
单线 POC
- 推理节点 + 本地存储
- 模型热更新流程
- 延迟压测
单产线验证
Fab
产线标准
- 推理集群
- 训练隔离节点
- 归档存储
稳定量产
Multi
多线扩展
- 共享推理池
- 统一监控
- 驻场保障
多产线
Delivery
交付构成
GPU 推理CPU 调度归档存储模型热更新产线驻场稳定性验证
Acceptance
建议验收指标
上线前把“算不算交付完成”说清楚，避免只验收到货。
| 指标 | 目标（示例） | 怎么验 |
|---|---|---|
| 推理延迟 | 满足节拍 | 在线压测 |
| 稳定性 | 约定可用性 | 连续运行记录 |
| 模型更新 | 不影响产线 | 演练 |
| 归档吞吐 | 跟得上采集 | 写入压测 |
Process
落地节奏
- 01
对节拍
测延迟与吞吐基线
- 02
POC
单线打通
- 03
量产
隔离训练与归档
- 04
扩展
多线复用与值守