027、模型剪枝：结构化与非结构化剪枝

027 模型剪枝：结构化与非结构化剪枝

昨晚调试一块STM32H743上的手势识别模型，Flash快塞满了，RAM也只剩不到8KB。模型推理一次要跑120ms，离实时性要求还差得远。我盯着map文件里那一长串权重数组，突然意识到——这模型里至少一半的参数，对最终输出几乎没贡献。剪枝，必须剪枝。

从一次“剪废了”的教训说起

第一次做剪枝，我天真地以为直接把小权重置零就行。结果模型直接崩了，推理输出全是NaN。后来才明白，剪枝不是简单“砍掉”参数，而是要在保持网络连通性的前提下，系统性地移除冗余连接。

那次踩坑让我记住了三件事：剪枝前要评估敏感度、剪枝后要微调、剪枝策略要匹配硬件特性。今天这篇笔记，就把结构化剪枝和非结构化剪枝的实战经验掰开揉碎讲清楚。

非结构化剪枝：精细但“不听话”

非结构化剪枝，说白了就是“单个权重级别”的裁剪。设定一个阈值，绝对值低于阈值的权重直接置零。这种方法最灵活，理论上可以做到任意稀疏度。

# 别这样写：直接硬阈值剪枝，不保留掩码weights[abs(weights)