文章标签
RDMA
-
RocksDB 在 NVMe-oF 架构下的挑战：RDMA 网络延迟如何影响 LSM-Tree 压缩性能
随着存算分离架构在数据中心普及，将 RocksDB 部署在 NVMe-oF（尤其是基于 RDMA 的实现）之上已成为提升资源利用率的主流选择。然而，这种架构将原本的本地 PCIe 访问转变为网络 IO，虽然 RDMA 提供了微秒级的极低延...
-
CXL 2.0 内存池化架构中 SPDK 的角色演变：用户态驱动如何接管缓存一致性责任
内存语义革命：当 SPDK 面对字节级寻址 CXL 2.0 引入的内存池化（Memory Pooling）彻底改变了数据中心的资源拓扑。传统架构中，SPDK 通过用户态轮询（Polling）机制绕过内核 I/O 栈，专为 NVMe 块...
-
云端AI推理芯片：NUMA架构下多租户远程内存访问的深度优化与瓶颈突破
在面向云服务的AI推理芯片设计与部署中，“内存墙”一直是悬在性能工程师和架构师头顶的达摩克利斯之剑。尤其当我们的目光投向多租户环境下的非均匀内存访问（NUMA）架构时，这个问题变得尤为复杂和棘手。如何高效利用NUMA，克服远程内存访问带来...
-
深入解析I/O操作优化：从基础到高级策略
深入解析I/O操作优化：从基础到高级策略 在计算机系统中，I/O（输入/输出）操作是影响性能的关键因素之一。无论是数据库管理系统、文件系统还是网络通信，高效的I/O操作都能显著提升系统的整体性能。本文将深入探讨I/O操作的优化策略，从...
-
从500ms到5ms：Redis实战揭秘传统操作与Pipeline的性能鸿沟
凌晨3点的性能警报 上周三深夜，我正盯着监控大屏上突然飙升的Redis延迟曲线——从平稳的2ms直冲500ms大关。这是某社交平台的消息队列服务，每秒要处理20万+的写入请求。 传统操作的问题显微镜 我们最初的实现是典型的同步...
-
etcd在高并发与大规模集群下的性能优化实战：从存储、网络到应用层的最佳实践
在构建或运维大规模分布式系统，特别是 Kubernetes 集群时，etcd 往往是那个“幕后英雄”，默默支撑着整个系统的状态管理和一致性保障。但如果它出了问题，或者性能跟不上，那整个系统都可能像多米诺骨牌一样崩塌。所以，etcd 的性能...
-
从硬件选型到退役管理：智能网卡全生命周期监控实战指南
一、智能网卡监控体系的演进背景 网络接口卡处理流量从2018年的5Gbps发展到2023年的400Gbps（数据来源：Dell'Oro Group），传统软件定义网络逐渐转向DPU硬件卸载架构。在蚂蚁金服2022年实际案例中，...
-
万亿参数级AI模型推理：NUMA内存墙与分片、同步、数据流优化实践
作为一名深耕高性能计算和AI基础设施的工程师，我深知当我们将万亿参数级别的多模态AI模型推向生产环境时，那些看似微不足道的系统瓶颈会如何放大，最终成为横亘在推理性能面前的“内存墙”。尤其是在现有的非统一内存访问（NUMA）架构下，这个问题...