JN江南体育官方网站-聊聊AI算力平台建设，先讲基本情况，再谈算力硬件方面

JN江南体育官方网站

咱们聊聊这个 AI 算力平台建设，首先讲讲这基本的情况是什么。AI 算力平台，可以理解成是给 AI 运算提供啥啥计算能力。啥意思，就是 AI 要运行各种复杂的算法、模型对不对，那都需要非常强大的计算资源做支撑这个，这个平台JN江南体育官方网站，就是专门干这件事 ，来提供像数据存储啊处理呐 运算呐之类服务的这么一个啥啥系统

从关键内容一点一点说，第1 点就是算力硬件方面。各种计算芯片那可是核心这个算基础部分。像咱们常见像用于英伟达 GPU、AMD 一些相关芯片等等这些，对于大规模的深度学习这个运算来说作用可不小。不同芯片类型针对不同应用场景性能优势很有区别，比如说英伟达的 GPU 在图像识别啦自然语言处理啊里面它的优势很厉害就。数据就表明了，相同计算量情况下使用英伟达高性能 GPU能大幅加快训练速度至少数倍甚至数十倍这个。

接着说这个存储方面，要足够得稳定就读写速度能够匹配算力需求。好多 AI 模型训练过程当中就会产生巨量无比的数据，如果这个读取跟不上算力所需，那算力资源就很非常有可会造成白白浪费了。现在这个 SSD 固态磁盘阵列应用得蛮广泛这个，但即使是 SSD 如果布置不合理时候其实也有可能成性能的瓶颈。

然后说第二个大部分软件层面问题。需要合适又好用的 AI 框架之类，比如啊 keras、TensorFlow、PyTorch等等这些框架或者说工具。他们为开发人员呢让使得就开发这些 AI 模型变得更简便。能够更快速将想法转变成运行代码这么一个啥过程的工具。不过不同的框架有好短处像TensorFlow它应用领域更广泛商业生产场景用得多。可是PyTorch来说话那就是 Python 等语言天然的融入高很适合学术研究跟快速开发原型啦 这个之间有点区别。再者平台要有管理调度系统那个作用呢相当于指挥官啥的 ，协调各个计算资源不同的 AI 任务按这个轻重时间紧急程度之类合适处理。

再就是网络通讯部分了这个。因为就单个芯片计算这个能力终究他有限对不对。一般来讲，肯定是以集群也就是把好多个计算节点联在这成一个集合形式 这种时候网络速度情况就会影响整体，总体上的运行。比如说，数据交换延迟高那即便个体节点处理迅速可是整个平台运行效率就受有很大影响。现在诸如说 InfiniBand 很高速度低延迟网络技术在大型算力平台应用 ，这样就使得各个节点中间通讯更快效率就提升。比如说某大型互联网它一个训练超算中心用该网络技术就，AI 训练任务在集群环境之下比先前用普通网络时候速度提升至少一倍以上。

下边有一些经常会遇到相关问题跟答案说一说哈就给具体补充补充。一般大家有这么个问题了，如果平台算力不够时候可能是硬件方面原因是基础，如果硬件基础已经确定那么是不是那个系统没有调优有问题。就有些老旧部件就没维护保养升级或者软件处理不合理。

有的也疑惑的是，我要不要选择购买公有云做 AI 算力云服务呢还是说自己建立数据中心自己建设！要是企业规模小并且在需求时候灵活没那么大量特定时间比如某个项目集中培训任务，用公有阿里云服务或许会合理从成本从运维难度都是可参考。要是一些行业有着巨大并且连续算力需求然后有资源有建设，对数据安全就有高要求或者很是看重定制化要求时候那么花大力气搭建自有的平台更好 区别就在那里就这些之类之间还是很大地这会判断不好可易错。

又有些人问人工智能算力和那个传统 ICT 算力有差别？传统那个 ICT 很多为信息通讯这种业务 日常性数据计算这些像网页浏览普通数据库服务处理业务。 人工智能算力往往就集中在深度学习。神经网络这种复杂任务这边差别就在场景还有处理的数据类型方式 传统简单处理些，人工智能相关呢就大量非结构化海量数据分析训练的难度这些会就非常难所以说两者有很分明的界限上 ，在选用部署平台得这个留意思考注意

我的想法呢就是，今后建设方面往集群化、定制化方向了。一方面啊对计算能力要求肯定整体上越来越高简单单个设备不够咯用 大量计算跟分布式集群方式会很普及 。另外一块啊各产业，在 AI 投入不同算力需求有鲜明那个不同 需要量身特定设计这个可。并且呢今后也不仅关注到单纯这个运算层面儿呢那个就能效层面提升得更更加着重留意呐在环境限制之类要求变高今天的大环境情况来讲是这样子 。

JN江南体育官方网站