AI服务器与普通的GPU服务器相比有哪些区别？

　　AI服务器是采用异构形式的服务器，在异构方式上可以根据应用的范围采用不同的组合方式，如CPU+GPU、CPU+TPU、CPU+其他的加速卡等。与普通的服务器相比较，在内存、存储、网络方面没有什么差别，主要在是大数据及云计算、人工智能等方面需要更大的内外存，满足各种数据的收集与整理。

 

　　AI服务器与普通的GPU服务器虽然组成上类似，核心计算部件都是GPU加速卡，但是不可等同，主要有以下几点区别： 

　　1、卡的数量不一致：普通的GPU服务器一般是单卡或者双卡，AI服务器需要承担大量的计算，一般配置四块GPU卡以上，甚至要搭建AI服务器集群。 
2、*设计：AI服务器由于有了多个GPU卡，需要针对性的对于系统结构、散热、拓扑等做专门的设计，才能满足AI服务器长期稳定运行的要求。 

　　3、P2P通讯：普通GPU服务器要求的是单卡性能，AI训练中GPU卡间需要大量的参数通信，模型越复杂，通信量越大，所以AI服务器除了要求单卡性能外，还要求多卡间的通讯性能，采用PCI3.0协议通信的大P2P带宽达到32GB/s，采用SXM2协议通信的大P2P带宽达到50GB/s，采用SXM3协议通信的大P2P带宽达到300GB/s。 

　　4、先进技术：AI服务器有很多更先进的技术，包括Purley平台更大内存带宽，NVlink提供更大的互联带宽，TensorCore提供更强的AI计算力。