（来源：上观新闻）
现代大型语言模型👃在处理一段文🏤字时，每一🇺🇬个词（或者说🇰🇬🔫每一个"Toke🚄n"）♊的理解都不是孤🐕🥋立的——它🛀🚫会受到前🗓面所有词😄的影响🧩🇨🇴。所以未来可能🖥❣是三层💪🚖结构👫。Flash版每百🐥万toke🥉🦷n输入1元——这🚬个价格让几乎🎎🕔所有开发者↕🇬🇳SCM系统都能无🔩👭负担地调用一个万🇦🇲🇻🇨亿参数级Mo📫☘E架构的开源旗👧舰模型👨👧🌁。
针对陆女士反👺映的上述问题，👨👦👦👆澎湃新🇰🇾闻于4月7日向该↗店铺客服🇧🇲进行了🇬🇮咨询💑💲。上下文窗🧻口瓶颈：长 Pr😼🐺ompt ❄👬吃掉大量 tok🐭🛶en，直接推👢💿高成本和延迟🙍♂️🇰🇪。” 延🇻🇺续其一🇨🇬🇬🇺贯立场，💀麦奎尔持续⬜👩🚒鼓吹推行更为严苛📷5️⃣的对华出口管制🇸🇰，主张采取全✍面切断🏥🍮AI芯片供🏆🙊应、封锁👯♂️云端访问渠道等一👣系列激进限制举🇱🇹🇿🇦措🇨🇫。
报告还🧵披露，V🇬🇦🦈4的M🏩oE专家权重和❕🧤稀疏注意🧶力索引器都采❎🏦用FP4🇧🇱🧕精度—🥔👨👩👧👧—而FP4（mx🚏💞FP4🧧）恰恰是昇🦟腾950🚪👩🏫的原生支持格🔩🔆式🥨🍈。大模型公司🍬和 S📵ystem🍧🤽♀️SCM系统 2 强关🌊🇵🇪联，而具身智能🇹🇦公司可以在 Sy♋🙌ste🇹🇬m 1 和 S🔜yste💤👱♀️m 0 上做努力📓⭐。
