老张聊嵌入式AI
-
在资源受限的Cortex-M上部署Transformer:如何选择合适的注意力机制?
在Cortex-M系列MCU上部署Transformer模型,尤其是像BERT、GPT这样的大模型,是一个极具挑战性的工程问题。Cortex-M核心通常缺乏浮点运算单元(FPU),缓存有限(通常几十KB到几百KB),内存(RAM)更是捉襟...
在Cortex-M系列MCU上部署Transformer模型,尤其是像BERT、GPT这样的大模型,是一个极具挑战性的工程问题。Cortex-M核心通常缺乏浮点运算单元(FPU),缓存有限(通常几十KB到几百KB),内存(RAM)更是捉襟...