AI老兵
-
在Cortex-M这类MCU上部署Transformer:如何从模型结构入手做极致裁剪并平衡精度?
在Cortex-M这类资源极度受限的MCU上部署Transformer,框架优化(如使用CMSIS-NN或专用推理引擎)固然重要,但 模型结构本身的极致裁剪往往是决定性因素 。这不仅仅是“减小模型”,而是在精度、延迟、内存(RAM/Fla...
-
AI产品价值,如何让非技术团队和高层都懂?
在AI时代,产品经理常常面临一个挑战:如何向非技术背景的同事(如销售、市场)和高层领导清晰地传达AI产品的价值和实现路径,既不让他们感到技术深奥难懂,又不流于泛泛而谈?作为一名深耕AI领域多年的产品经理,我总结了一些实用的沟通策略和重点。...
-
Softmax定点化:Cortex-M上指数计算查表与多项式近似的性能抉择
在嵌入式AI推理,尤其是面向低功耗Cortex-M系列微控制器时,Softmax函数的定点化处理是一个常见而关键的优化环节。Softmax的核心在于 exp(x) 指数运算,而浮点指数计算在资源受限的MCU上通常是性能瓶颈。本文将深入对比...
-
初创公司AI数据标注:小数据量下如何高效低成本提升模型性能?
对于初创公司来说,在AI模型训练初期往往面临一个两难境地:数据量不大,但为了快速迭代和验证产品,需要高质量的标注数据,同时又得兼顾有限的成本。特别是像NLP这种需要领域专家知识的任务,纯人工标注的成本是天文数字。那么,如何在不大幅增加成本...