边缘推理と云端:产线质检时延がモデルの置き場所を決める

公開日: 2022-10-22 出典: 许愿牛科技

产线节拍はミリ秒単位。质检が毎回云に聞けば传送带が止まる。时延预算が边缘か云端かを決め、モデル大小ではない。

视觉模型は云上很准、产线一次推理は数百ミリ秒+ジッター。节拍は排队不可。时延预算が工位旁か机房かを決める。边缘放行、云端训练・抽检・版管理。位置选错、准确率再高も停线源。

模型住哪里は架构偏好ではない。传送带が等てるかどうか。

先写时延再选位置

拍照から放行までの許容時間を測定。超预算は边缘化か入力削減。断网時边缘は末版モデルで放行し缓存。云端更新はロールバック可、高峰静默推送禁止。

  • 在线学习を放行路径に直接書くな。
  • 抽检・疑难は云可、节拍件は必ず本地。
  • 边缘设备は健康检查、ファン・磁盘は产线同级维护。
云端推理延迟导致工件堆积
准在云上、晚在线上。节拍不等人、模型は工位旁へ。

边缘放行、云端进化

XYN 数智化システムは质检结果を工单に回写、推理位置は工位时延で設定。住对地方、智能は节拍の一部;住错、智能は节拍の对手。

秒表で拍照から放行。超预算なら先に边缘、大云端モデルは後。

工位旁边缘设备毫秒级质检
放行在边缘。进化在云端。位置由时延决定、参数量ではない。