（来源：上观新闻）
硬件特🌍性也被深度挖🎣掘：MLU的🎑💦访存与排序加⛴🇲🇷速能力被用🦏来加速稀疏Att👪ention🌳🇵🇹和Inde❕🇲🇾xer结构，高互🗻➰联带宽📙和低通信延时将分👬布式推理中的🤥通信占比压到🤼♂️🙅最低🇲🇵。每百万tok👩🎓en，V4-Fl😇🛤ash的🤠🐤输入价是👩👩👦1元（缓📐存命中0👈.2元），◼🔡输出价2元；V4👻🎚-Pro的输入🌻价12元（🥓缓存命中1元）🗒👾，输出价24元🦄🏷。
针对 💄Dee🍈pSeek‼-V4 🇾🇪🛀的新结构，寒武🗯🎑纪通过自研高🎱性能融合算🇶🇦🇧🇳子库 T📶orch🇩🇯💼-ML🇧🇻🔮U-Op👭s，对 🥈Compre😇🎟sso🇧🇿⚖r、mHC 🏏等模块进行🔶专项加速；利用 🚇💙Ban🐛🐣gC 高🉐⏬性能编程语🇹🇫🚖言，编写稀疏 🥔🥌/ 压缩 At🍜tent♻ion、🥰GroupGem🇩🇲📹m 等热点算子☸的极致🔊👴优化 Ker👨🍳nel🇲🇪，充分🛌🆎释放硬件底层性⏬能🇵🇷。华为同步开源🦎了PyP🇬🇶🔁TO编程范式🇳🇺，让V4新架构💂♀️👃中涉及的A🚹🐨ttention🥦👒压缩、mHC🚐等复杂算子🤾♂️🇺🇲的开发👱🧵周期从周级缩短到🦈天级，开♾️🎍发者不需要手🤩动处理硬🍷件层面的同步和数🇳🇴🙍♂️据搬运🏊。
