模型压缩 | 模型剪枝篇，ConvNeXt 结构化剪枝实战：基于 DepGraph 的无损剪枝与微调（附完整代码），开启同构剪枝

🐴剪枝实验效果小结：参数量（Params）：从 27.82 减少到 22.75 M，减少了约 18.2%。模型体积变小了，占用的显存和存储空间随之降低。计算量（GFLOPs）：从 4.47 降低到 3.53，降低了约 21%，理论上可以说明模型的推理速度提高，减轻运算负担。从结构化剪枝实验来看，剪枝后的模型减少了参数和计算量（不像非结构化剪枝只抹零不减量），剪枝模型经过微调后，精度也原始模型精度差不多。前言最近在研究模型优化和轻量化部署，读到一篇 CVPR 2023 的论文《DepGraph: Towards Any Structural Pruning》。传统的剪枝往往需要针对特定网络手动设计剪枝规则，而这篇论文提出了一种通用的依赖图方法，可以自动处理各种模型的参数依赖关系。