Unsloth 发布 Mistral Le Chonk 1-bit GGUF 量化版,可本地运行 1T 参数模型

来源:X:Unsloth (@UnslothAI) 2026年10月29日 22:27 AIHOT 评分:77 精选
摘要:Unsloth 发布 Mistral Le Chonk(Mistral Large 4,1T 参数 MoE,52B 激活)的 Dynamic 1-bit GGUF,可在 Mac Studio 上本地运行,保留 91% top-1 准确率,体积约 233GB(较 1.1TB FP8 小 80%)。图为各量化档位给出硬件需求,1-bit 需 256-270GB 内存,最小 UD-IQ1_S 约占 233GB 磁盘,并支持文本与图像输入、1M 上下文和 160+ 语言。GGUF 与指南见 huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF 和 unsloth.ai/docs/models/mistral-large-4。
推荐理由:原文给出在 Mac Studio 上本地运行 1T 参数模型的量化方案和硬件需求表,读者可直接照做部署。
# Unsloth 发布 Mistral Le Chonk 1-bit GGUF 量化版,可本地运行 1T 参数模型 > 原标题:Mistral Le Chonk can now run locally! - 来源:Unsloth - 发布时间:2026-10-29T14:27:32.000Z - AIHOT:https://aihot.news/items/rph54wkrnzjpvov4cv0mxqatl - 原文:https://x.com/UnslothAI/status/2115812784189620265 ## 摘要 Unsloth 发布 Mistral Le Chonk(Mistral Large 4,1T 参数 MoE,52B 激活)的 Dynamic 1-bit GGUF,可在 Mac Studio 上本地运行,保留 91% top-1 准确率,体积约 233GB(较 1.1TB FP8 小 80%)。图为各量化档位给出硬件需求,1-bit 需 256-270GB 内存,最小 UD-IQ1_S 约占 233GB 磁盘,并支持文本与图像输入、1M 上下文和 160+ 语言。GGUF 与指南见 huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF 和 unsloth.ai/docs/models/mistral-large-4。 ## 推荐理由 原文给出在 Mac Studio 上本地运行 1T 参数模型的量化方案和硬件需求表,读者可直接照做部署。 ## 正文 Mistral Le Chonk can now run locally! The 1 trillion parameter model runs on a Mac Studio with our 1-bit GGUF which retains 91% top-1 accuracy. Le Chonk is the strongest Western open model to date. GGUF: https://huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF Guide: https://unsloth.ai/docs/models/mistral-large-4 ## 中文译文 Mistral Le Chonk 现在可以在本地运行了! 这个 1 万亿参数模型可以在 Mac Studio 上运行,使用的是我们的 1-bit GGUF,保留了 91% 的 top-1 准确率。 Le Chonk 是迄今为止最强的西方开源模型。 GGUF:https://huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF 指南:https://unsloth.ai/docs/models/mistral-large-4 ![](https://aihot.news/api/img-proxy?u=https%3A%2F%2Fpbs.twimg.com%2Fmedia%2FHVzgfGCbgAA3Q5R.jpg&mode=thumb&exp=1793491200&sig=6f01f8486e74df0c) ## 引用 @MistralAI > Today, we release the weights of a new and improved Le Chonk, advancing the open frontier for agentic coding and cybersecurity. > > 💻 Built to build: Le Chonk ranks #1 on @cognition’s FrontierCode among open models, and sets a new benchmark for Pareto efficiency on @artificialanalysis. > > 🛡 Built to defend: State-of-the-art in cyberdefense, put through the paces by the world's leading cyber vendors, including @CrowdStrike, @cloudflare, @rubrik, @zscaler, and others. > > Built for sovereignty: Make it yours. Download the weights on @huggingface , customize it with Mistral Forge, and deploy it wherever you need it. > > Read more from our team and customers 👇: https://x.com/MistralAI/status/2115811242556137820 ### 引用中文译文 > 今天,我们发布了全新改进版 Le Chonk 的权重,推进智能体编程与网络安全领域的开放前沿。 > > 💻 为构建而生:Le Chonk 在 @cognition 的 FrontierCode 上于开放模型中排名第一,并在 @artificialanalysis 上树立了帕累托效率的新基准。 > > 🛡 为防御而生:网络防御领域的顶尖水平,已通过全球领先网络安全厂商的检验,包括 @CrowdStrike、@cloudflare、@rubrik、@zscaler 等。 > > 为主权而构建:让它成为你的。在 @huggingface 上下载权重,使用 Mistral Forge 进行定制,并部署到你需要的任何地方。 > > 阅读我们团队和客户的更多内容 👇: