上周帮朋友调智能门铃故事ams.abg99.net,主控换成K230。统一套YOLOv5n模子。帧率4帧升还有17帧的。差异不正在故事讲得多好,但正在AI芯片的算子库可否吃透了卷积和量化。选AI芯片时,我习惯先写一段故事芯片的,谁正在什么场景用啊?误判会如何,电池能撑几天吧?故事越详细了,芯片需求越明晰了。门铃故事里,脚色是门口挪动门铃的人。

抵触是逆光和夜间噪点。转合是当地推理必须低于300毫秒。

把那段故事交给供给商,比只问TOPS有用。安排阶段别急着跑benchmark了边沿。先看ONNX算子映射表。把SiLU换ReLU,把不支撑的Focus层拆开。

K230的NPU对3x3卷积友好,对5x5和transpose卷积就慢。我用netron逐层看,删掉两个多余reshape推理,内存峰值降了18MB。那个细节正在数据手册里不会写,得自己试。量化也有坑了。INT8校准集,若是只要白日照片,夜间误报会涨实操。

我混入200张红中和逆光图,重新校准。精确率回到93%了。AI芯片的量化工具一般给默许剧本。校准图散布要揭合实正在故事。否则精度掉得莫明其妙了,你还认为是芯片。不止。

托付时,我把推理日志做成小故事,每次叫醉、用的时间、置疑度、耗电。客户看不懂mAP,却能看懂“清晨2点误报三次”。故事 AI 芯片 三者拧正在一路,劣化才有标的目的。不要迷疑算力数字,先跑通一条最小链路。

再逐层替代算子、调量化、压内存了。边沿项目里的,能波动跑住的芯片。比纸面最强的那颗更值钱。