AI服务器的优势有哪些？

Question

如题所述

Answer 1

　　从服务器的硬件架构来看，AI服务器是采用异构形式的服务器，在异构方式上可以根据应用的范围采用不同的组合方式，如CPU+GPU、CPU+TPU、CPU+其他的加速卡等。与普通的服务器相比较，在内存、存储、网络方面没有什么差别，主要在是大数据及云计算、人工智能等方面需要更大的内外存，满足各种数据的收集与整理。

　　我们都知道普通的服务器是以CPU为算力的提供者，采用的是串行架构，在逻辑计算、浮点型计算等方面很擅长。因为在进行逻辑判断时需要大量的分支跳转处理，使得CPU的结构复杂，而算力的提升主要依靠堆砌更多的核心数来实现。

　　但是在大数据、云计算、人工智能及物联网等网络技术的应用，充斥在互联网中的数据呈现几何倍数的增长，这对以CPU为主要算力来源的传统服务提出了严重的考验，并且在目前CPU的制程工艺、单个CPU的核心数已经接近极限，但数据的增加却还在持续，因此必须提升服务器的数据处理能力。因此在这种大环境下，AI服务器应运而生。

　　现在市面上的AI服务器普遍采用CPU+GPU的形式，因为GPU与CPU不同，采用的是并行计算的模式，擅长梳理密集型的数据运算，如图形渲染、机器学习等。在GPU上，NVIDIA具有明显优势，GPU的单卡核心数能达到近千个，如配置16颗NVIDIA Tesla V100 Tensor Core 32GB GPUs的核心数可过10240个，计算性能高达每秒2千万亿次。且经过市场这些年的发展，也都已经证实CPU+GPU的异构服务器在当前环境下确实能有很大的发展空间。

　　但是不可否认每一个产业从起步到成熟都需要经历很多的风雨，并且在这发展过程中，竞争是一直存在的，并且能推动产业的持续发展。AI服务器可以说是趋势，也可以说是异军崛起，但是AI服务器也还有一条较长的路要走，以上就是浪潮服务器分销平台十次方的解答。

Answer 2

从硬件架构来看，AI服务器主要指的是采用异构形式的服务器，表现形态多为机架式。在异构方式上，可以为CPU＋GPU、CPU＋FPGA、CPU＋TPU、CPU＋ASIC或CPU＋多种加速卡。
而在其他组成部件上，如内存模块、存储模块、网络模块与传统服务器差别不大，主要的提升便是支持更大容量的内存满足当下实时负载增加的需求，提供更多外置硬盘插槽，并广泛支持NVME／PCIE等SSD，满足数据洪流需求，网络模块主要表现为带宽增加。
尽管AI服务器可以采用多种异构形式，但目前广泛使用的是CPU＋GPU。也因此，业界在谈到AI服务器时，往往将其默认为GPU服务器。因此，在第二部分中，笔者谈到的AI服务器优势也主要为GPU服务器。
AI服务器的优势
传统服务器主要以CPU为算力提供者。而CPU为通用型处理器，采用串行架构，擅长逻辑计算，负责不同类型种类的数据处理及访问，同时逻辑判断又需要引入大量分支跳转中断处理，这使得CPU的内部结构复杂。也因此，CPU算力的提升主要靠堆核来实现。
随着云计算、大数据、AI、物联网等技术应用，数据在近几年呈指数型增长，IDC统计显示全球90％数据均在近几年产生，这便对CPU的处理能力提出考验，而目前CPU的物理工艺、核心数已接近极限，数据量却不会停止，服务器的处理能力必须提升。因此，在AI时代下，仅由CPU做算力提供者的传统服务器并不能满足需求。
不同于CPU，GPU采用并行计算模式，单卡核心数达到上千个，擅长处理密集型运算应用，如图形渲染、计算视觉和机器学习。经过几年验证，搭载GPU的服务器也被证实的确适用这个时代。本回答被网友采纳