随着大数据,云计算和人工智能等技术的成熟,企业IT领域也发生了重大变化。在传统的互联网时代,我们专注于单一领域,如国内免备案服务器市场,我们已经听说过更多有关机架国内免备案服务器,塔式国内免备案服务器和刀片服务器的信息。
在即将到来的人工智能时代,我们更有可能听到AI国内免备案服务器一词。那么,AI服务器到底是什么,以及为什么AI服务器适合人工智能时代?在本文中,作者还将回答这些AI服务器的混淆,主要涉及AI国内免备案服务器的定义,优势和市场状况。
AI国内免备案服务器定义
从硬件架构的角度来看,AI国内免备案服务器主要是指异构形式的国内免备案服务器,性能形式大多是机架式的。在异构模式下,它可以是CPU + GPU,CPU + FPGA,CPU + TPU,CPU + ASIC或CPU +多个加速卡。
在其他组件上,如内存模块,存储模块,网络模块和传统服务器差别不大,主要改进是支持更大容量的内存,以满足当前实时负载增加,提供更多外置硬盘插槽SSD等因为NVME/PCIE被广泛支持以满足数据洪泛要求。网络模块的主要特征是带宽增加。
虽然AI服务器可以采用多种不同的形式,但CPU + GPU现在被广泛使用。因此,当业界谈论AI国内免备案服务器时,它通常默认为GPU国内免备案服务器。因此,在第二部分中,作者谈到的AI服务器优势也主要是GPU服务器。
AI国内免备案服务器的优点
我们都知道传统服务器主要是CPU。 CPU是通用处理器,采用串行架构,擅长逻辑计算。它负责不同类型的数据处理和访问。同时,逻辑判断需要引入大量的跳转中断处理,这使得CPU的内部结构变得复杂。因此,CPU功率的增加主要由堆核心实现。
随着云计算,大数据,人工智能和物联网等技术的应用,近年来数据呈指数级增长。 IDC的统计数据显示,近年来已经生成了90%的全球数据,这使得CPU的处理能力得到了测试。目前,CPU的物理过程和核心数量已接近极限,数据量不会停止,服务器的处理能力必须提高。因此,在AI时代,只有CPU是计算提供商的传统服务器无法满足需求。
与CPU不同,GPU使用并行计算,具有数千个单卡核心,并且擅长处理密集型计算应用程序,如图形渲染,计算视觉和机器学习。经过几年的验证,配备GPU的服务器也被证明适用于这个时代。
AI国内免备案服务器市场状况
IDC全球半年度人工智能系统支出指南预测显示,2019年全球人工智能系统支出将达到358亿美元,比2018年增长44.0%。与此同时,人工智能系统的支出将增加一倍。到2022年为792亿美元,2018年至2020年预测期的复合年增长率(CAGR)为38.0%。
这个值也意味着AI国内免备案服务器的市场有多广泛。因此,全球几家主要的国内免备案服务器供应商正在部署AI服务器。
目前,在中国市场,浪潮拥有最大的市场份额,处于绝对领先地位,占51.4%,其次是曙光和新华三。从行业分布的角度来看,互联网应该成为AI国内免备案服务器的主要用户。在GPU上,NVIDIA具有明显的优势,其特斯拉系列产品在AI基础设施市场占据主导地位,特别是在在线培训领域。
在AI国内免备案服务器上,当前的性能是浪潮AI超级国内免备案服务器AGX-5。 AGX-5专为深度学习和高性能计算而设计。这台单机可在8U空间配置16个NVIDIA Tesla V100 Tensor。核心32GB GPU,具有10,240个张量计算核心,计算性能高达每秒2 teraflops。