（来源：上观新闻）
这对于重计算💨类方案⚒来说是灾难🇵🇰性的，因为重计❕算需要知道每个被🦅保留词的🌰准确位置，而👨🦲压缩打乱了📐📰这个结构👹。第一，原生👟🤱支持FP8、MX🏴😖FP8、MX🚟FP4等低精度数🍩🗿据格式，内存占🇲🇭😾用降低50%以上8️⃣🌼，计算能力翻倍🔎👘。
AI也是如此🦹♂️，它对每个🎲💀词的内部表示（🧕🧑就是所谓的"KV🇭🇳状态"，即K🏔ey-⭕Value状态🤠👨💻）是在考🇮🇳💦虑了前面🙎🏴所有内容之后计算🚐出来的🎀🌸。
他称，目🛩👨👨👧👧前中国🇫🇰🍎代运营公司哪家比较好顶尖AI模型相🇽🇰较美国主流尖🥼端产品😐仅存在约七个🔬月的技术差距🇰🇵。黄仁勋指出🖕ℹ，Myt🕊🔘hos仅用“相当🇸🇩🎇普通且🛵❄规模有限🐘代运营公司哪家比较好”的算🚎力训练而成，🔭训练这种模型所需🥡🏜的算力👨❤️👨🏋规模与类🙀🚐型在中国都极🏍🇧🇻为充足🗯。
