MCU部署
-
在Cortex-M这类MCU上部署Transformer:如何从模型结构入手做极致裁剪并平衡精度?
在Cortex-M这类资源极度受限的MCU上部署Transformer,框架优化(如使用CMSIS-NN或专用推理引擎)固然重要,但 模型结构本身的极致裁剪往往是决定性因素 。这不仅仅是“减小模型”,而是在精度、延迟、内存(RAM/Fla...
在Cortex-M这类资源极度受限的MCU上部署Transformer,框架优化(如使用CMSIS-NN或专用推理引擎)固然重要,但 模型结构本身的极致裁剪往往是决定性因素 。这不仅仅是“减小模型”,而是在精度、延迟、内存(RAM/Fla...