DPU(中央处理器分散处理单元) - MilkeZhang 的网络笔记

DPU是Data Processing Unit的简称,它是最新发展起来的专用处理器的一个大类,是继CPU、GPU之后,数据中心场景中的第三颗重要的算力芯片,为高带宽、低延迟、数据密集的计算场景提供计算引擎DPU将作为CPU的卸载引擎,释放CPU的算力到上层应用。以网络协议处理为例,要迅速处理10G的网络需要的大约4个Xeon CPU的核,也就是说,单是做网络数据包处理,就可以占去一个8核高端CP

DPU(中央处理器分散处理单元)

DPU(中央处理器分散处理单元)

阅读:624  点赞:0   留言:0


DPU是Data Processing Unit的简称,它是最新发展起来的专用处理器的一个大类,是继CPU、GPU之后,

数据中心场景中的第三颗重要的算力芯片,为高带宽、低延迟、数据密集的计算场景提供计算引擎

DPU将作为CPU的卸载引擎,释放CPU的算力到上层应用。

以网络协议处理为例,要迅速处理10G的网络需要的大约4个Xeon CPU的核,也就是说,单是做网络数据包处理,就可以占去一个8核高端CPU的一半的算力。

如果考虑40G、100G的高速网络,性能的开销就更加难以承受了。Amazon把这些开销都称之为“Datacenter Tax”——还未运行业务程序,先接入网络数据就要占去的计算资源。

AWS Nitro产品家族旨在将数据中心开销(为虚机提供远程资源,加密解密,故障跟踪,安全策略等服务程序)全部从CPU卸载到Nitro加速卡上,将给上层应用释放30%的原本用于支付“Tax” 的算力。


DPU将成为新的数据网关,将安全隐私提升到一个新的高度。

在网络环境下,网络接口是理想的隐私的边界,但是加密、解密的算法开销都很大,例如国密标准的非对称加密算法SM2、哈希算法SM3和对称分组密码算法SM4。

如果用CPU来处理,就只能做少部分数据量的加密。在未来,随着区块链承载的业务的逐渐成熟,运行共识算法POW,验签等也会消耗掉大量的CPU算力。而这些都可以通过将其固化在DPU中来实现,甚至DPU将成为一个可信根。


DPU将成为存储的入口,将分布式的存储和远程访问本地化。

随着SSD性价比逐渐变得可接受,部分存储迁移到SSD器件上已经成为可能,传统的面向机械硬盘的SATA协议并不适用于SSD存储,所以,将SSD通过本地PCIE或高速网络接入系统就成为必选的技术路线。

NVMe(Non Volatile Memory Express)就是用于接入SSD存储的高速接口标准协议,可以通过PCIe作为底层传输协议,将SSD的带宽优势充分发挥出来。

同时,在分布式系统中,还可通过NVMe over Fabric协议扩展到InfiniBand、或TCP互连的节点中,实现存储的共享和远程访问。这些新的协议处理都可以集成在DPU中来实现对CPU的透明处理。

进而,DPU将可能承接各种互连协议控制器的角色,在灵活性和性能方面达到一个更优的平衡点。
DPU将成为算法加速的沙盒,成为最灵活的加速器载体。DPU不完全是一颗固化的ASIC,在CXL, CCIX等标准组织所倡导CPU、GPU与DPU等数据一致性访问协议的铺垫下,将更进一步扫清DPU编程障碍,结合FPGA等可编程器件,可定制硬件将有更大的发挥空间,“软件硬件化”将成为常态,异构计算的潜能将因各种DPU的普及而彻底发挥出来。

在出现“Killer Application”的领域都有可能出现与之相对应的DPU,诸如传统数据库应用如OLAP、OLTP, 或新兴应用如智能驾驶等


编写于:2023/4/12 14:30:42
发布 IP 属地:

版权声明

本站内容均来自网络转载或网友提供,如有侵权请及时联系我们删除!本站不承担任何争议和法律责任!


艾金森

每一个童年的梦想都值得用青春去捍卫!




用户地图 心情地图 日记地图 笔记地图 时间轴地图 投票地图 习题地图 夏谢秋 的日记 2024/05/12 22:49:23过年睡不着 想他12/05/20242024-02-07 日记【哥斯拉的数学题】夏谢秋 的日记 2024/04/17 23:14:09夏谢秋 的日记 2024/05/11 22:60:47赛斯记录站夏谢秋 的日记 2024/07/09 22:13:07jedahdohma 的日记 2024/05/28 14:47:34小雨,微冷,困倦差生文具多首先,你可以尝试先租双层的屋子。(不要着急买屋子。)试一试听星洲日报的话 ...1夏谢秋 的日记 2024/06/25 23:12:592024-02-09 日记【除夕,过年】夏谢秋 的日记 2024/07/05 22:50:10#淹水的屋子治百病关于《疯狂的麦克斯4》及衍生篇电影周三“氛围感”有感摔跤自00年00月03天-剔除恶习(2)2024/03/24夏谢秋 的日记 2024/06/20 22:41:283dimensions 的日记 2024/02/18 00:42:33景物描写Birthday Prank100日中考有感挨骂的一天夏谢秋 的日记 2024/06/03 21:32:192024-03-24 Web开发记录【Bug修复】2024-02-05 日记【春节 - 古灵精怪的哥斯拉】夏谢秋 的日记 2024/07/03 22:59:232024/5/3夏谢秋 的日记 2024/04/28 23:08:48夏谢秋 的日记 2024/05/31 21:29:40写给爷爷的信夏谢秋 的日记 2024/04/27 22:39:09夏谢秋 的日记 2024/06/19 23:26:05好久以后 的日记 2024/03/08 09:31:553月11日记love your day as it is your last day2024-03-27 Web开发记录【后台强化 与 内部数据结构调整】2024-06-14 Web开发记录【用户动态列表数据库优化 / JS 已知bug修复 】晨间偶得谭健鹦先生代表信家集团迎接戎美邮轮内装技术公司领导人参观考察艰难的2024习惯才是自我改变最大的力量夏谢秋 的日记 2024/06/22 22:59:14jedahdohma 的笔记 2024/05/17 15:38:42好吧也许这样也不错。浅浅记录一下文章练习2家用服务器被迫推移,新款服务器选择困难仙人掌一号 的笔记 2024/07/09 10:50:44不想学外语的思考Zachary Hoskins: Fair Play, Political Obligation, and Punishment节选翻译哲理瑞芯微第二代8nm高性能AIOT平台 RK3576处理器 简介为某君二人赋20240722混乱的一个月底。人世间值得。练习1洗牙多久一次适宜视频编解码协议 MPEG-4 和 H.264之间的区别C# <summary>注释实现换行记清明出行。我爱我的国。我爱我的家。哲理把脑子重新捡起来。【Datasheet】FD6288T 三个独立的半桥栅极驱动集成电路芯片OC_角色_上簇观瑞芯微RK3568对比RK3399性能解析道具灵感【Datasheet】FE2.1 USB 2.0高速7端口集线器控制器文章练习4Android Studio 快捷键大全【鱼露】调味料是什么周处除三害【用户意见】2024-05-17 【Bug的修复】你想活出怎样的人生。【Datasheet】SCT2A10STER DC-DC电源芯片不知道是想写日记还是笔记。回家 近期【Datasheet】地平线 旭日X3芯片目标【2024年】个人家用电脑配置,NAS小服务器及时止损就是赚对吧。对吧。爱让人脑袋空空。20240512Better Man春天吗。视频编解码协议 【MPEG-4】【H.264】【H.265】【VP9】【AV1】【AVS】【VP8】【Datasheet】Amlogic A311D AI芯片参数规格哲理js 函数过多?2024年6月19日