7

独门行业加速器:NVIDIA智能网络和DPU

 3 years ago
source link: https://zhuanlan.zhihu.com/p/346286112
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

独门行业加速器:NVIDIA智能网络和DPU

吸引了超过5万名注册参会者的2020 GTC 中国线上大会圆满结束!在14 大技术分论坛带来的200 余场干货满满的演讲中,高速智能网络及DPU专题备受关注。

本文特别精选了来自英伟达、UCloud、上海金仕达软件等专家的10个热门演讲,聚焦DPU在金融、5G、边缘计算领域的应用。

UCloud快杰云主机的软硬件优化

演讲人:彭晶鑫,UCloud存储总监

v2-a12ec0ef8b973bed4678d2f64cc1ce80_720w.jpg

快杰云主机是 UCloud 最新推出的全新一代计算产品,计算、存储与网络性能都拥有着卓越的体现,具备 1000 万 pps 的内网性能以及 120 万 IOPS 的存储性能。随着计算机软硬件的发展,UCloud 研发团队通过 SR-IOV 和 RDMA 技术重写了虚拟网络路径以及存储路径,相对于传统的虚拟化网络路径以及虚拟化 IO 路径,减少了大量的上下文切换以及数据拷贝,极大的提升了性能。并减轻物理主机 CPU 消耗,使之有能力承载更多虚拟机,从而更好的优化成本。在快杰云主机中,利用了NVIDIA网络的 ConnectX-5 25G 网卡,利用其提供的 SR-IOV 和 RDMA 方案,配套研发团队整个虚拟化路径软件栈的优化,内网性能从 30 万 pps 提升到 1000 万 pps,存储性能从 3 万 IOPS 提升至 120 万 IOPS,存储时延从 1ms 降低至 100us . 使得快杰云主机的性能媲美物理机的性能,从而更多的应用例如 DB,消息队列,大数据等都可以轻松的利用快杰云主机的高性能轻松构建。

BlueField-2 DPU 以及 SNAP 在金融行业的应用

演讲人:张松柏,NVIDIA高级系统工程师

v2-f1ca33281001863bc443cea781601f98_720w.jpg

NVIDIA DPU(Data Processing Unit)SNAP 技术可以将远端存储模拟为本地存储,从而提升存储的效率。该技术当前支持两种类型的存储设备,NMVe 和 Virtio 。通过将远端设备模拟为本地设备,可以实现计算节点服务器无盘化,完全使用后端存储资源池,充分利用存储资源并降低故障率,达到节省固定投资和运营投资成本的目的。金融行业的快速发展,对于 IT 基础设施的要求越来越高。特别是当前热门的高性能计算、人工智能、大数据分析,大大提升了金融应用的效率和决策水平,这些技术对于 IT 基础设施有着很高的要求,SNAP 技术可以满足这类应用的高性能要求,同时可以节省客户的运营成本和维护难度。

DPU 如何加速5G移动网络通信

演讲人:沈宇希 ,NVIDIA Solution Architect

随着 5G 时代到来,网络设备追求更高的性能和灵活性。DPU 为 5G 产品的可扩展性和通用加速转型提供了更优的选择。通过在 DPU 中实现精准时钟同步及基于高精度时钟的精准调度能力,结合 GPU 和通用服务器平台,可以支持 5G 无线 o-RAN 场景的更强 CU/DU 实现选择。此外,DPU 还支持通过多种卸载选项,加速 5G 核心网和边缘的 UPF 设备,使得在更通用的平台上运行开放的 UPF 能够支持 5G 的高性能需求。

NVIDIA以太网产品加速数据科学应用

演讲人:王栋,NVIDIA中国区以太网产品总监

数据科学在过去 10 余年间持续快速发展,已经成为了一个非常重要的技术和研究方向。本演讲结合数据科学各生命周期中对网络基础设施的要求和关键技术,介绍了 NVIDIA 以太网解决方案在建立数据科学网络基础设施中的应用和特点。

DPU 加速边缘计算

演讲人:冯高峰,NVIDIA网络事业部HPC-AI技术市场总监

近些年,边缘计算在物联网,云服务,运营商业务等获得快速发展。作为靠近用户端的新型计算单元,边缘计算在安全、性能等方面都提出了新的要求。NVIDIA 最新推出的 DPU 处理器,采用一种新型的数据中心基础架构处理器体系结构 DOCA,可实现具有突破性的网络、存储、安全性能。本次讲座将介绍 CPU 、 GPU 和 DPU 如何有机结合,为边缘计算关键的网络、存储和安全任务实现加速,实现完全可编程性,并具有“零信任”安全功能,防止数据泄露和网络攻击,提供前所未有的安全性和算力。

智能网络加速5G云服务

演讲人:沈宇希,NVIDIA Solution Architect

随着 5G 业务的发展和部署,边缘业务和云化逐渐对网络能力提出更高要求。智能网卡技术在 5G 的应用得到了很多的关注。智能网卡提供了提供作为卸载核心网业务逻辑到硬件的加速手段,在云化 SDN 和容器场景下,智能网卡通过流表卸载和业务合作对云服务实现了智能化和高速化转型能力,此外,无损网络作为电信的高性能业务场景为存储和 AI 业务提供了更好的低时延高带宽能力。

NVIDIA 网络技术助力金融极速系统

演讲人:张鹏,上海金仕达软件科技有限公司交易类产品售前咨询负责人

金仕达将 NVIDIA RDMA 网络技术应用于金融行业各种极速类系统中,降低了系统整体延时,提高了金融市场价格发现的整体效率。近年来,中国金融市场加速发展和创新,对外不断扩大开放,投资者的结构也在逐渐发生变化。其中机构投资者、专业投资者占比逐年提高。与传统的散户投资者不同,机构和专业投资者的资金量更大,对金融科技的接受度和使用程度更高。他们会使用程序化交易工具,基于一定的策略,对市场行情和其他信号进行综合判断后发出交易请求,因此也自然的对行情速率和交易的成功率非常看重。这就对为之服务的行情、交易、风控类系统提出了很高的性能和低延时要求。传统的金融系统,采用的还是 TCP 或者 UDP 可靠组播协议。金仕达与 NVIDIA 合作,将 RDMA 网络技术应用于新一代的各类极速系统中,大幅提升了网络性能,减少了网络延迟,从而提高交易者捕捉市场的机会,提升整个市场价格发现的效率。

NVIDIA 以太网赋能下一代边缘云网络

演讲人:王晨曦,NVIDIA高级售前工程师

介绍如何用 NVIDIA 以太网 ESF 方案快速搭建智能边缘云计算网络的基础设施。本演讲介绍了 NVIDIA 对于边缘云计算网络的架构和分析,介绍如何采用业界领先的高性能,低延迟的小型以太网交换机和 ESF 解决方案为用户快速搭建小型化,灵活,基于 RoCE 高性能的边缘云网络。该方案可应用于远程办公,CDN,电信边缘,自动驾驶等基于 GPU 的边缘云网络。

构造开放的网络基础设施,加速现代数据中心

演讲人:王栋,NVIDA中国区以太网产品总监

商业应用在网络的自动化、扩展性和灵活性方面的需求日益增加,AI 驱动的多种应用也对网络带来了更高的要求。开放网络技术在满足这些需求方面为用户带来了巨大的收益。学习和了解为何、如何使用 NVIDIA 开放网络技术替代传统封闭架构构造新型数据中心基础设施,会给用户数据中心基础设施建设带来全新的思路和实践的指导。解决用户在高性能基础设施中的高效、高性能、开放和灵活的一系列需求问题。

Rivermax - 带您轻松跨入超高清视频的IP时代

演讲人:陈龙,NVIDIA 高级市场开发经理

随着视频向 4K 和 8K 超高清方向演进,视频传输带宽要求也越来越高,传统的 SDI 传输方案和定制化的视频烟波系统从性能、成本、可扩展性等方面也越来越不能满足 4K 、 8K 高清视频播出的要求;ConnectX 系列网卡上实现对高清视频流的高速 IP 转发,实现了对 SDI 传统方案的替代,支持 10G 、 25G 、 50G 、 100G 乃至 200G 的转发速率;Rivermax 支持 kernel bypass,降低了大带宽转发对 CPU 资源的消耗;ConnectX 网卡支持 GPUdirect 特性,提高了视频处理数据转发的效率;此外,Rivermax 支持虚拟化应用,一块网卡在虚拟机支持下可以支持不同操作系统,最大化服务器的资源利用,节省投资成本。

盘点过以上精彩的技术演讲,您还想重温 GTC 大会的其他精彩内容吗?

高速智能网络及 DPU 专题 | GTC 中国线上大会 2020 | NVIDIA​nvidia.gtcevent.cn

请在 2021 年 1 月 29 日前,登录活动官网,活动尚未结束,请尽情畅览。主题演讲、高峰论坛、14 大分论坛、线上展览、研究海报、初创企业线上展厅、女性大咖播客间,希望这些精彩内容能激发您的灵感,为 2021 完美开局。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK