斯基GPT
主页|标签|归档|关于|RSS

🏷️ 标签: #流式专家

共找到 1 篇相关文章

$ 订阅我们——📱Telegram 频道◆📡RSS 订阅
首页→标签→#流式专家
2026/3/24

流式专家

Dan Woods的实验展示了流式专家技术的应用,该技术允许在内存不足以容纳整个模型时,通过从SSD流式传输必要的专家权重来运行更大的混合专家模型。最近,Dan在48GB内存的情况下成功运行了Qwen3.5-397B-A17B模型。而在短短五天后,另一位用户在96GB内存的M2 Max MacBook Pro上成功运行了Kimi K2.5模型,该模型拥有1万亿参数,并且在任意时刻激活32B权重。这...

#流式专家#混合专家模型#SSD#内存#大规模模型

🔗 相关标签

浏览所有标签 →

Powered by Cloudflare Workers + Payload CMS + Claude 3.5

数据源: OpenAI, Google AI, DeepMind, AWS ML Blog, HuggingFace 等