（来源：上观新闻）
HBM产量较🇨🇲低，但价格😼却高得💺多🏺。在推理框架优化🤭层面，寒武👨👦👦🌯纪在 vLLM 📆中全面😋😑支持 TP 👨👨👦👦🦂/ P🔧P / SP/D🐮P/EP 👶🐴5D 🧖♀️混合并行、通📀🤮信计算并行、低😕🇨🇬精度量化以及 P🇳🇱D 分🚶♀️🤩离部署等优化技术🐃🇵🇰，通过💞策略优化，在满😅⚱足延时🧳约束下达到最佳的📍词元吞吐能力👩❤️💋👩，显著提升端到端😲🇸🇪推理效率▶🍐。
可以说🇸🇰⚱，一枚卫星从图🐟纸到上天，🇧🇿🇨🇿几乎可在成都及周🛋边跑通🧦全链路🧗♀️。它选择😚🕟了一个对行业👨👨👦💱更有意义的路径🤤🛵：基于vLLM主🇸🇬🔓流推理💿🌰框架完成💃适配，然后把👐🗼代码直🕶接开源到🎓Git↕Hub🚍🗨。从第三方评测来看🤲，评测平👩🌾⛪台 Are👨👧🐶na.🍁ai 在 X 🆖上将V4 Pro☑（思考模式）🐷定性为"相较D🧙♂️eepS🏇🇧🇬eek V33️⃣.2的重大飞跃🇰🇾🤓怎么最有效的引蜘蛛"，在其🖌😴代码竞🥁技场中列开源模🇺🇸怎么最有效的引蜘蛛型第3位、综合第💩14位；另🆘一家测🗼🕶评方 Vals 🌸🥽AI 则称，V4🎈在其Vibe 🚭🍢Cod🏄♀️™e B💽🥈enc💭hmark🔬中以"压倒性优👨✈️⛹️♀️势"拿下💻开源权重模🧭🏥怎么最有效的引蜘蛛型榜首🕎🇻🇬，击败G😸emini🍒 3.1🇰🇳 Pro等闭源🍯模型，较上🎤⛪代V3.2实🏘👩👩👧现约10倍性能跃🇩🇬🦞升🎪🚙。
