六八读书

基础算力，人工智能的底层支撑（第2页）

本小章还未完，请点击下一页继续阅读后面精彩内容！

举个直观的例子：同样大小的芯片，5nm芯片比14nm芯片能多装好几倍的晶体管，计算速度能提升30%以上，耗电却能减少50%。这对AI来说太重要了——AI需要长时间、高强度计算，芯片又快又省电，就能让AI服务器不用频繁断电散热，还能降低成本。

再说说“架构创新”。以前芯片多是“通用架构”，比如CPU的x86架构、ARM架构，能处理各种任务，但面对AI的“并行计算”需求（也就是同时处理大量数据），效率就不够高。所以现在专门为AI设计的“专用架构”越来越多，比如NPU（神经网络处理单元）。

NPU的设计思路很简单：AI最常用的是“神经网络计算”，就像人脑的神经元一样，需要大量“重复且相似”的计算。NPU就专门优化这种计算，去掉了通用架构里用不上的功能，把所有“力气”都用在神经网络计算上。比如手机里的NPU，能快速处理拍照时的图像优化、人脸识别，比用CPU处理快好几倍，还不耗电——这就是“专芯专用”的优势。

现在的芯片，就是“先进制程+专用架构”双轮驱动，既保证了计算速度，又提高了AI任务的处理效率，成了算力升级的“核心引擎”。

2. 服务器：算力的“运输车”，装得越多、跑得越稳

如果说芯片是“心脏”，那服务器就是算力的“运输车”——芯片产生的算力，要靠服务器整合、输出，才能供AI使用。现在的服务器，主要往“装得多”（高密度）和“不趴窝”（高可靠性）两个方向发展，尤其是AI服务器，更是如此。

先看“高密度”。AI需要的算力特别大，一台服务器里装的芯片越多，能提供的算力就越大。以前的普通服务器，最多装2-4块GPU，而现在的AI服务器，能装8-16块GPU——就像以前的卡车只能装2吨货，现在的卡车能装16吨货，运输效率直接翻了好几倍。

比如2023年的时候，全球AI服务器市场规模同比增长了80%以上，很多科技公司比如谷歌、百度、阿里，都在大量采购这种多GPU的AI服务器，就是为了满足大模型训练的需求。一台能装16块GPU的AI服务器，一次能处理的数据量，比普通服务器多十几倍，大大缩短了大模型的训练时间——以前可能要几个月才能练完的模型，现在几周就能搞定。

再看“高可靠性”。AI的计算任务往往不能中断，比如训练一个大模型，要是服务器中途坏了，之前的计算成果可能就白费了，得重新开始。所以现在的服务器都做了“冗余设计”——比如关键部件（电源、风扇、硬盘）都装两个，一个坏了另一个能立刻顶上；还有“故障预警系统”，能提前检测到服务器的问题，比如某个部件温度太高，会自动报警并调整，避免突然“趴窝”。这种高可靠性，保证了AI计算能连续不断地进行，不会因为硬件故障耽误事。

3. 数据中心：算力的“仓库+调度站”，又绿色又高效

数据中心就是存放服务器、存储数据、调度算力的地方，相当于算力的“仓库”和“调度站”。现在的数据中心，不只是“堆服务器”，而是往“绿色化”和“集约化”发展，既要提供足够的算力，又要减少能耗、提高效率。

先说说“绿色化”。数据中心里有大量服务器，这些服务器运行时会产生很多热量，需要空调散热，所以耗电特别大——以前的 data center，每提供1单位的算力，可能要消耗1.5单位以上的电（用PUE值衡量，PUE=总耗电量/算力耗电量，越接近1越省电）。现在为了减少能耗，都在用“液冷技术”——不是用空调吹，而是用特殊的冷却液直接接触服务器，散热效率比空调高好几倍，能把PUE降到1.1以下。

举个例子：阿里在张北建的数据中心，用了液冷技术后，PUE只有1.09，也就是说，每提供100度的算力用电，总共只消耗109度电，比传统数据中心省了40%以上的电。这对AI来说很重要，因为AI需要长期占用大量算力，省电就等于省成本，还能减少碳排放，符合绿色发展的要求。

再说说“集约化”。以前的数据中心大多建在大城市，但大城市的土地、电力成本高，而且数据传输距离远，会有延迟。现在都在搞“边缘数据中心”——把小型数据中心建在靠近用户或设备的地方，比如城市的基站旁边、工厂的车间里、高速公路的服务区里。

这样做的好处很明显：数据不用传到远处的大型数据中心，能在本地处理，减少传输延迟。比如在自动驾驶场景里，车辆需要实时处理路况数据（比如前面有没有车、红绿灯是不是红灯），如果数据要传到几十公里外的数据中心，再传回来，哪怕只有1秒的延迟，都可能引发事故。而边缘数据中心就在路边，数据处理的响应时间能控制在毫秒级（1毫秒=0.001秒），相当于“即时反应”，能保证自动驾驶的安全。

本小章还未完，请点击下一页继续阅读后面精彩内容！

现在的数据中心，就是通过“绿色化”降成本、减排放，通过“集约化”缩延迟、提响应，成了算力的“稳定后方”，让算力既能持续输出，又能高效到达需要的地方。

三、算力怎么用得好？边缘计算+调度平台，打破“算力孤岛”

有了算力，也有了硬件支撑，还得解决一个问题：算力不能“浪费”。现在很多地方都有算力，但有的地方算力不够用（比如东部大城市），有的地方算力用不完（比如西部偏远地区），就像有的地方水多泛滥，有的地方水少干旱，这就是“算力孤岛”。要解决这个问题，就得靠算力网络建设——核心是“边缘计算”和“算力调度平台”，一个让算力“靠近用户”，一个让算力“按需分配”。

1. 边缘计算：把算力“搬”到用户身边，减少延迟更安全