模型精
-
数据预处理对模型性能的影响:如何让你的 AI 更聪明?
数据预处理对模型性能的影响:如何让你的 AI 更聪明? 在机器学习领域,数据是模型的基石。高质量的数据可以帮助模型更好地学习和预测,而低质量的数据则会严重影响模型的性能。因此,数据预处理成为机器学习流程中不可或缺的一环。 数据预处...
-
片上网络(NoC)中的机器学习推理:如何通过量化、剪枝与NPU实现高效硬件加速
当今,人工智能尤其是机器学习的浪潮,正以前所未有的速度推动着计算架构的演进。在边缘设备、数据中心乃至更深层次的嵌入式系统中,高效、低功耗地执行机器学习推理(Inference)已成为一个核心挑战。这不仅仅是纯粹的计算能力问题,更是数据如何...
-
联邦学习中客户端隐私偏好配置接口:标准化、可扩展与用户体验设计实践
在联邦学习(Federated Learning, FL)的实际部署中,客户端数据的隐私保护始终是核心关切。我们希望在不直接收集原始数据的前提下,通过聚合各方模型更新来训练全局模型。但这还不够,用户或数据管理员往往希望能更精细地控制其数据...
-
破局通信瓶颈:资源受限边缘设备上联邦学习的通信效率优化实战指南
在当前万物互联的时代,边缘计算与人工智能的结合正成为一股不可逆转的趋势。联邦学习(Federated Learning, FL)作为一种分布式机器学习范式,让模型训练可以在数据不出本地的前提下进行,天然地解决了数据隐私和安全问题。然而,当...
-
RISC-V平台轻量级Transformer模型极致能效推理:RVV、BFloat16与稀疏化的深度融合
在资源受限的RISC-V平台上部署轻量级Transformer模型,实现极致的能效比推理,是一项极具挑战但又充满吸引力的任务。本文将深入探讨如何结合RISC-V向量扩展(RVV)、低精度浮点运算(如bfloat16)和稀疏化技术,在有限的...
-
Transformer模型在RISC-V NPU上的推理加速与兼容性挑战:边缘智能的性能突破之路
在当今的边缘计算领域,RISC-V架构以其开放性、可定制性和低功耗特性,正逐渐成为AIoT设备的热门选择。而Transformer模型,作为自然语言处理和计算机视觉领域的“全能选手”,因其强大的表达能力和卓越的性能,在云端大放异彩。但将这...