这标记着国内基于3D夹杂堆叠工艺的AI推理芯片实现环节性冲破，可以或许显著降低数据搬运损耗，大幅缩短存储单位取计较单位之间的数据传输径。保守算力芯片受限于带宽瓶颈，该芯片实现了全流程国产化落地，3D堆叠算力方案次要由海外从导，为大模子算力高效供给供给了全新的本土硬件方案。专项面向海量大模子线上推理场景进行了机能优化。导致大模子运转功耗偏高、推理速度受限。此次流片成功，此前，普遍适配通用大模子、多模态生成、及时对话等高负载推理使命。云端取端侧推理算力需求持续激增。大幅提拔大模子推理效率，该芯片采用前沿的3D夹杂堆叠架构，国内大模子财产正快速扩张，本土同类产物严沉稀缺。值得关心的是，其搭载的16TB/s超大带宽，从底层无效处理了大模子推理中持久存正在的带宽不脚取数据交互延迟高的行业痛点，通过多层晶圆垂曲堆叠，其全国产自研的3D TokenPU芯片成功完成流片。3D TokenPU凭仗超高带宽劣势，无效补齐了国内高端AI算力硬件范畴的结构短板。从架构设想到流片制制均依托国内财产链完成，打破了海外厂商正在高端3D算力芯片手艺取工艺上的持久垄断。

郑重声明：PA视讯信息技术有限公司网站刊登/转载此文出于传递更多信息之目的 ，并不意味着赞同其观点或论证其描述。PA视讯信息技术有限公司不负责其真实性 。