星空体育·(中国)官方网站-ios/安卓通用版/手机App下载

当人工智能遇到PCIe，会擦出怎样的火花？

发布者：星空体育(中国)官方网站发布时间：2023-09-08

人工智能这么重要（火爆），那么，人工智能的作用有多“大”？投资人工智能的都是“谁“?” PCIe 技术可以在人工智能领域发挥什么作用？为什么一定要选择“ PCIe 技术”来助力人工智能的发展？在人工智能领域， PCIe 技术将会有怎样“令人惊喜”的“潜在市场”呢？星空体育(中国)官方网站目前拥有哪些 PCIe 技术相关的电缆和连接产品？

...

以上问题，请见本文。

人工智能的作用有多“大？投资人工智能的都是“谁”？

根据 ABI Research 的分析报告，人工智能正在成为人类社会不可或缺的一部分，包括我们的生活、工作和娱乐等各个方面。例如，最近两年大火的 Chat GPT 以及其他可以自动生成图片和视频的 AI app，基于人工智能的推荐引擎、购物 app 上的智能回复客服等等。此外，为了实现流程自动化、提高生产效率，企业还开发了用于仓库自动化和质量检测的高性能模型，同时部署了机器人和自动驾驶车辆。不仅限于私营部门，公共机构也一直在部署人工智能来治疗疾病、克服供应链危机、优化城市基础设施和加强公共安全。

为了满足人工智能工作负载的内部需求，从云服务提供商到跨国公司和国家研究实验室，所有组织都在积极推出人工智能基础设施。

图 1：云计算和边缘人工智能芯片组收入（来源：ABI Research）

由上图可知，2020年 -- 2023 年，云 AI 芯片组和边缘 AI 芯片组的年收入逐年递增，2022 年云 AI 芯片组和边缘 AI 芯片组的年收入组目前收入已达到 300 亿以上，预计到 2027 年云 AI 芯片组和边缘 AI 芯片组将可以达到 600 亿美元以上的收入。

人工智能的发展离不开云计算和边缘人工智能芯片组等的发展，云计算和边缘人工智能芯片组的收入可以作为人类对于人工智能投资”的其中一个证明。由图 1 可知，人类很重视“人工智能”的发展、在积极布局、推进推广人工智能的发展。

人工智能目前的发展现状如何？

有了先进的人工智能基础设施，人工智能研究人员和开发人员正在争分夺秒地创建更复杂、更精确的人工智能模型。人工智能和 ML 训练模型的快速发展导致模型规模大约每 3 到 4 个月就会翻一番。例如，在 DL 的早期，AlexNet 只有 7 层深度，而现在最流行的卷积神经网络（CNN），如 ResNet 和 Inception v3，深度已超过 40 层。与此同时，自然语言处理（NLP）模型的规模也在不断扩大。例如，OpenAI 的 GPT-3 被广泛认为是 2021 年最先进的 NLP 模型，根据支持的用例类型，它拥有 1.25 亿到 1750 亿个参数。展望未来，对话式人工智能模型的参数可能是 GPT-3 的两倍，而生成式电子邮件或文档摘要等高级应用可能需要拥有数百亿参数的网络。

所有这些大型人工智能模型都是在大量数据的基础上训练出来的。人工智能系统必须能够通过人工智能开发管道移动大型数据集。因此，研究人员和开发人员需要具有广泛计算能力和内存带宽的计算系统来进行训练和推理。这可以通过直接快速访问内存来实现，以减少处理过程中的延迟。他们还非常看重任何能够根据最终用户的要求在不牺牲性能和延迟的情况下扩大或缩小人工智能工作负载的技术。

此外，人工智能的未来并不局限于图像和文本的专门模型。新的人工智能技术，如多模态学习、图神经网络和深度强化学习，为人工智能的训练和推理带来了额外的复杂性。这些模型使用广泛的数据源和数据类型。人工智能训练过程日益复杂，需要更多高性能的人工智能训练和推理芯片组。除了通用 CPU 和 GPU 之外，人工智能开发人员正在将新的人工智能加速器纳入现有的人工智能系统。这些人工智能加速器具有高速计算、高内存带宽的特点，并针对并行计算进行了全面优化。

更重要的是，CPU、GPU 和人工智能加速器的组合创造了一种异构计算环境，标准互连技术将使这种环境受益匪浅。

PCIe 技术可以在人工智能领域发挥什么作用？

人工智能技术供应商有很多理由考虑采用 PCIe 架构。首先，PCIe 架构是一种广泛采用的芯片到芯片互连协议，可减少互操作性方面的挑战，使最终用户能够充分利用人工智能的异构计算。人工智能研究人员和开发人员无需担心人工智能系统不同组件（包括人工智能加速器、计算芯片组、存储卡、交换机和网卡）之间的互连问题。PCIe 技术将确保在各种定制电路板设计和系统拓扑结构中实现必要的高数据速率串行传输。

使用 PCIe 技术作为加速器互连解决方案，人工智能芯片组供应商将自动确保加速器可以连接到几乎所有可用的计算芯片。该技术可确保向后兼容现有的人工智能基础设施。已在人工智能基础设施上投入巨资的企业无需担心不断升级其人工智能系统，以兼容新的人工智能加速器。相反，可以使用标准软件驱动程序、工具和库实现即时部署，从而降低部署成本，缩短产品上市时间。

最后，PCIe 技术有助于提高能效，使人工智能研究人员和开发人员能够最大限度地减少“碳足迹”。可持续发展是近年来的一个热门话题，而人工智能所带来的便利——相对“低功耗”，可以实现“低碳”“少碳排放”的可持续发展目标。其中，PCIe 技术可实现高效的点对点通信，从而缩短训练时间、降低推理延迟或提高推理吞吐量，从而提高人工智能训练和推理工作负载的效率。此外，PCIe 技术还提供链路功率状态，可根据空闲时间和带宽使用情况调节链路功耗。随着人工智能工作负载的不断飙升，可以大大提升能效。

为什么一定要选择 “PCIe技术“ 来助力人工智能和AI服务器发展？

PCIe技术是人工智能和AI服务器发展的重要助力之一，原因如下：

峰值下载和上传速度高：正如 PCIe 技术概述部分所强调的，PCIe 接口可为外围元件提供市场领先的上传和下载速度，可以有效满足AI应用中大量数据和信息的快速传输和处理需求，从而提高整体计算效率。

可扩展性：受到人工智能和数据中心、云计算等数据密集型应用的驱动，数据中心架构正在持续发展，这对 PCIe 接口提出了更高的要求。作为 CPU 与扩展卡之间的连接通道，PCIe一直在稳步发展着、持续提高速率。选择 PCIe 技术的话，有助于供应商利用每一代 PCIe 技术推向市场所带来的速率增长。去年初，PCIe 6.0 标准正式发布，相比较上一代 PCIe 5.0 规范，速率再次翻倍，达到了 64 GT / s，预计将是 PCIe 5.0 的两倍。

电源管理功能：PCIe 3.0 代之后开发的 L1 子板可在 PCIe 收发器内启用高速逻辑唤醒设备。其目标是在激活状态下实现近乎零功耗。简单地说，PCIe 接口可以在不使用任何电源的情况下准备就绪。这样就能节省大量功耗。这将有助于移动设备延长电池寿命--这对终端用户来说是至关重要的价值驱动因素。

实时数据处理：PCIe技术可以提供实时数据处理能力，满足AI应用中对实时性要求高的场景，如实时分析、实时控制等。

5. 集成其他技术：PCIe技术可以与其他技术如GPU、FPGA等进行集成，实现更高效的数据传输和处理，提高AI应用的性能和可靠性。

综上所述，PCIe技术具有高速、高效、兼容性强、扩展性好、可与其他技术集成等优点，非常适合用于助力人工智能和AI服务器的发展。随着技术的不断进步，PCIe将继续发挥重要作用，推动AI应用的进一步发展。

可应用于服务器的星空体育平台官网PCIe技术相关的内部线产品方案

目前，星空体育(中国)官方网站已经拥有较为丰富的高速互连内外部连接产品方案。其中，高速互连MCIO/PCle Riser Cable/Gen-Z/Slim SAS/MiniSAS HD等内部连接产品方案主要可用在AI服务器等服务器内部，外部线（比如CDFP）主要用在GPU卡的扩展互联上。

星空体育平台官网开发出的PCIe 5.0 Riser Cable产品，特性如下：

支持PCIe 5.0长距离应用
客户系统结构可以更灵活设计
降低客户端PCBA成本
优化焊点阻抗和衰减
PCBA根据客户需求灵活设计
可提供从设计到成品出货整体打包方案

图为星空体育平台官网RISER CABLE

同时，星空体育平台官网也开发出完全符合 OCSP 标准Riser Cable,特性如下：

结构尺寸完全符合OCSP标准。
速率满足PCIe 5.0 32GT/s标准。
自研LONGSPEED™ HSC裸线，提供低损耗，高质量的SI性能。

图为星空体育平台官网PCIe 5.0 X16 to MCIO 16X

星空体育平台官网提供的MCIO Cable Assembly特性如下：

可支持30AWG 1M长距离应用
提供定制化方案
支持30~34AWG不同线规85ohm差分阻抗设计
SI 标准符合Internal Cable Specification for PCI Express 5.0 and 6.0 Rev0.7
可提供 4X (38Pos) , 8X (74Pos), 16X (124Pos) & 24X (148 Pos)
直头 (STR) / 弯头 (R/A) & 侧出(LSE/RSE)
结构尺寸完全符合SFF-TA-1016（MCIO）标准
速率支持 PCI-e 5.0 32 GT/s 标准，可向下兼容 PCI-e 4.0
自研 LONGSPEED™ HSC 裸线，提供低损耗，高质量的SI性能。

另外，星空体育平台官网还可提供更低功耗的DAC/ACC等外部线产品方案：

提供800/400/200/100/50/25 Gbps产品
支持小外径铜缆，机架布线更弹性
ACC使用redriver IC功耗更低
DAC功耗低至0.05W
ACC长距离性价比更高

在人工智能领域，PCIe技术将会有怎样“令人惊喜”的“潜在市场呢？

ABI Research 预计，到 2030 年，人工智能领域的 PCIe 技术 TAM（包括边缘和数据中心部署）将从 4.4933 亿美元增长到 27.84 亿美元，年复合增长率为 22%。随着越来越多的企业垂直部门部署边缘服务器，以及人工智能不断民主化，边缘人工智能市场可能会以 50% 的复合年增长率快速增长。