66读书

ai芯片的两大“升级方向”——fp8精度和多芯互联，到底牛在哪？（第2页）

而且这两个好处加起来，还能“缩短训练周期”。比如训练GPT-4这样的大模型，以前用老技术需要3个月，现在用FP8精度，算力翻2倍、能耗降30%，算下来训练周期能缩短25%，也就是只要2个多月就能训练完。对企业来说，训练周期缩短意味着能更快推出新的AI产品，比如别人还在训练，你已经把新的AI聊天工具上线了，自然能抢占市场先机。

这章没有结束，请点击下一页继续阅读！

3. 国产芯片的动作：寒武纪、壁仞科技已跟上，BR100芯片算力达1000TOPS，专门对标“超大规模训练”

可能有人会问：国外芯片早就支持FP8精度了，国产芯片能跟上吗？答案是“当然能”，而且已经有不少国产企业拿出了实实在在的产品。

首先是大家比较熟悉的寒武纪，它的思元系列芯片早就支持FP8精度了，比如思元590芯片，用FP8精度计算时，算力比用老格式提升1.8倍，能耗降低28%，已经能满足不少中小规模AI模型的训练需求。

除了寒武纪，还有一家叫壁仞科技的企业，推出的BR100芯片更是“重量级选手”——它支持FP8精度，算力能达到1000TOPS（1TOPS相当于每秒算1万亿次）。这个算力有多强？简单说，用BR100芯片训练一个百亿参数的AI模型，可能只要几天时间；要是用来训练超大规模的大模型（比如千亿、万亿参数），也能轻松应对。

现在不少国内的大模型企业已经开始用这些国产芯片了。比如某互联网公司，以前训练大模型用国外芯片，一次要花500万；现在换成壁仞BR100芯片，因为支持FP8精度，算力够、能耗低，一次训练只要300万，成本直接降了40%。而且国产芯片不用受国外政策限制，不用担心“断供”，用起来更放心。

三、第二个升级方向：多芯互联——让芯片“组队干活”，解决“单芯片算力不够用”的难题

聊完了FP8精度，再来说第二个关键技术：多芯互联。这个技术的思路特别简单——既然单颗芯片的算力有限，那不如把多颗芯片“连起来”，组成一个“虚拟大芯片”，让它们一起干活，算力自然就上去了。

就像咱们搬东西，一个人搬不动100斤的箱子，要是8个人一起抬，就能轻松搬起来。多芯互联就是让芯片“组队抬箱子”，核心是解决“单芯片算力跟不上大模型需求”的问题。

1. 为啥需要多芯互联？单芯片“再牛也有上限”，大模型需要“集体力量”

可能有人会问：既然能把单颗芯片做得更厉害，为啥还要搞多芯互联？答案是“单芯片的算力有上限”。

就像一个人再强壮，最多能举200斤，不可能举2000斤；单颗芯片不管怎么升级，算力也有天花板——比如现在最厉害的单颗AI芯片，算力也就1000多TOPS，而训练一个千亿参数的大模型，需要的算力至少是8000TOPS，单颗芯片根本不够用。

而且单颗芯片做得太复杂，成本会飙升。比如想把单颗芯片的算力从1000TOPS提升到8000TOPS，需要的研发成本可能是原来的10倍，售价也会贵得离谱，没几个企业能买得起。

这时候多芯互联的优势就体现出来了：不用把单颗芯片做得“神乎其神”，只要把多颗普通芯片连起来，就能达到超高算力。比如用8颗1000TOPS的芯片，通过多芯互联组成“虚拟大芯片”，总算力就能达到8000TOPS，成本只要单颗“超级芯片”的1/3，性价比一下子就上来了。

2. 多芯互联咋实现？靠“高速互联接口”，让芯片之间“说话不卡顿”