唱响“三大乐章”建设贸易强国 中国贸易的“变奏曲”

在Dell工厂，我们现在有多个AI项目应用于我们的生产和运营。比如，我们在国内工厂已经使用全自动化生产线在生产我们的存储阵列产品；我们正在应用机器视觉技术进行笔记本电脑的表面缺陷检测；我们的供应链团队在通过AI机器学习算法进行库存优化和智能补货，等等。

戴尔服务器目前提供的一款CloudIQ软件，就是AI与产品运维结合的代表，它通过智能传感器的数据采集，集合AI算法技术，对于设备运行状态可以进行主动检控，对于设备运行的潜在故障进行主动的分析与告警。

工业互联网，大数据，边缘计算，IoT这些技术，未来都是可以和AI结合，助力在智能制造的应用场景中。

AI是跨行业的应用技术，我们现在不同行业的用户都有在使用AI技术进行场景化落地，比如制造行业的产品缺陷检测、厂区安全监控、工艺参数优化等，金融行业的智能客服、智能风控、智能投顾，零售行业的商品识别、货损防控，等等。

数字孪生的基础支撑技术，包括统一建模、CAD、CAE、产线准实时数仓、IoT、CEP、SPC、数据科学等。 VMWare的解决方案除大家熟悉的VMWare Cloud Foundation(vSphere, vSAN, NSX)之外，包括：VMWare Data Solutions, 数据科学服务及数据集成专业服务, IoT侧虚拟化解决方案(上位机虚拟化)，以及VMware Tanzu Kubernetets, VMware Tanzu Application Platform。

在生成式AI领域，Dell主要提供生成式AI模型训练和部署所需要的平台和基础设施解决方案。我们也在尝试使用类似ChatGPT生成式AI技术在我们的内部生产、运营和客服业务上。

AI应用并不是完全为了替代人工，而是更好进行人机结合，帮助企业实现降本增效，比以往的人力或者自动化方式实现更好的效率和结果的准确性。

DPU目前可以工作在如vSphere8虚拟化场景以及其他的应用场景下，卸载在网络通信以及存储I/O阶段的计算消耗，提高吞吐性能，降低CPU的负载。

AI包括三个分支，包括符号计算与形式推理、专家系统、机器学习。推测您提到的AI对于CPU的消耗压力，大概指得是机器学习中的深度网络学习部分，除了通过GPU运算卸载计算压力外，也有些应用的CPU压力是与IO等待相关的，如果是存储IO压力，可以考虑NVmeSSD，如果是网络IO压力，可以考虑DPU及与其搭档的vSphere 8.0中的Distributed Services Engine.

在GPU服务器架构下，AI的主要计算负载是由GPU来承担的，但是仍然是有一部分计算任务需要运行在CPU上，比如多数场景下图像、语音、文本的数据预处理任务，强化学习场景的一些函数计算操作等。

在我大学研究生的供应链管理课程中，Dell的供应链管理就是作为一个研究案例。库存管理和需求预测，我们的供应链团队在这个领域有着很深的积累。

仿真属于HPC科学计算领域，有CPU仿真和GPU仿真，取决于不同应用软件。

大语言模型会泄密、会撒谎, 这就需要私有部署，以及依靠分布式多模数据库对问答进行事实约束。 大语言模型还需要基于container的GPU并行计算，VMware Tanzu Kubernetes Grid是最稳定可靠的私有部署Kubernetes版本。 另外，我们还提供搭建基于开源大语言模型和分布式向量多模数据库的问答服务的专业支持。

在降低计算功耗上，有很多的研究和工作可以来做。我们目前在实施的技术包括：1. 通过Dell OpenManage可以对服务器运行功耗进行实时检测，并生成碳排放报告；2. 服务器内部散热优化设计：包括T型主板设计、高效率电源和风扇选型及设计、多矢量散热技术进行风扇转速及其他声学特性的智能条件、针对不同业务负载的BIOS配置优化模版 等；3. 采用液冷散热技术，提高散热效率，降低数据中心的PUE。

在工业AI视觉检测领域，Dell既可以为我们的用户提供满足工业AI视觉检测的基础架构平台解决方案，我们也在联合制造行业AI ISV，正在为我们像光伏等行业的用户提供AI视觉检测包含算法和软件平台在内的整体解决方案。

PowerScale是Dell目前针对海量大数据集中存储、访问与共享的解决方案，我们目前单一文件系统可以支持180PB的存储容量。

对于高算力需求的计算场景，目前我们有几种应对方案：1. 针对可以支持并行计算的软件应用，可以采用HPC多机集群的超算架构；2. 如果是不能进行并行拆分的应用，可以采用如Dell四路服务器，提供单节点更强的计算力，随着制程工艺的提升，目前单机的CPU与内存性能也越来越高；3. 就是像今天讨论的AI计算场景，采用如GPU、AI专用加速芯片这样的异构计算架构。

针对边缘计算，Dell有专门设计与优化的边缘计算服务器XR系列，它对于机房环境、温度、抗震等有更强的适应能力，同时我们在今年的DTW Dell用户大会上，也发布了Dell针对边缘计算场景的软件平台架构。

服务器芯片设计本身，现在也在做很多的低功耗设计，如采用更先进的制程工艺，Chiplet技术等，我们在服务器配置上也在BIOS提供一些低功耗的BIOS选项。

VMware的vSphere 8.0新增的Distributed Services Engine，支持DPU异构计算。

除了CPU本身的性能提升外，我们在AI 服务器目前支持的GPU Direct RDMA和GPU Direct Storage技术，也可以减少在网络传输和存储I/O过程中的CPU性能开销。

汽车行业物联网主要应用在生产线的数据分析，也就是工业互联网，通过收集产线的数据，可以进行预测性维护，质量检测等工业应用。

Dell本身就是工业视觉检测的实践者，我们对外提供AI质检的基础设施平台解决方案，以及与AI应用合作伙伴一起帮助用户实现场景化AI应用落地。

我们的硬件设备目前还没有，在营销和服务领域我们正在做这样的探索和尝试。

Dell可以提供满足生成式AI、AI大模型计算所需要的GPU计算服务器，AI GPU分布式训练的整体解决方案和参考架构。Dell与NVIDIA合作的面向生成式AI的平台解决方案，Project Helix也将在今年下半年正式上市。

模型训练对算力要求最高，其次是产线推理环节，数据采集和治理环节对计算力要求相对偏低。

GPU Direct RDMA，在AI领域主要是应用于多机多卡GPU分布式训练，大模型训练计算场景下。

我们可以提供不同应用下数据的集中存储、统一管理和数据保护；支持不同协议的数据访问；实现对应用透明的动态分层存储；采用横向扩展的架构，存储容量和性能可以按需扩展，动态进行数据重分布；存储平台可以提供完善的向下兼容性。

上位机虚拟化、海量数据的准实时BI和敏捷AI解决方案、数据集成和科学服务。

AI目前主要处理的就是非结构化数据的应用场景，如图像、视频、语音、文本，Dell可以能够提供包含计算、存储、网络在内的非结构化数据处理和知识发现的基础设施整体解决方案。

XR系列是Dell专门针对边缘计算场景设计和优化的计算平台，它目前是我们PowerEdge服务器家族中的一个子产品线，包括多款产品型号，比如XR4000、XR11、XR12等。

从计算的角度看，您也可以认为AI计算属于高性能计算的一个应用场景的大类，因为AI特别是AI大模型对计算力有很高的要求，特别是模型训练过程中多数都是采用GPU集群计算架构。不过和传统的科学计算相比，AI计算还是有些明显不同，比如计算精度，很多HPC超算采用的是FP64双精度，AI普遍采用单精度、半精度甚至更低的计算精度；HPC超算很多是使用CPU计算，当然GPU比重也在提升，AI计算基本都是采用异构计算架构；在存储I/O上也有些差异，比如AI计算以读IO为主，HPC会有大量的写IO操作。

主要还是取决于业务的要求和目标，比如计算响应的延迟要求，边缘场地和数据中心之间的连接带宽，以及数据安全和法规要求，比如是否可以允许数据上传等，来决定计算是发生在边缘侧还是云端。

随着AI产业化的不断发展，AI计算在商业计算中的整体占比已经在不断提升。

目前AI在各行业的应用场景已经比较多了，像智能驾驶，制造业的产品质检和良品率提升，零售的商品识别和货损防控，金融的风控和投顾，医药和材料领域的虚拟分子筛选等。

很多客户目前是采用容器化来部署AI应用，通过K8S作为容器的编排平台，在企业中应用已经比较多，NVIDIA也提供针对K8S的GPU plugin插件。