DiffusionGemma 开源:文本扩散让本地生成最高提速 4 倍
1条摆在这一期1个信源1个分节1条收进刊期
本期导语
Google DeepMind 以 Apache 2.0 开源实验模型 DiffusionGemma,用文本扩散一次并行生成整段文字,把专用 GPU 上的生成速度最高提到 4 倍——单卡 H100 超 1000 token/秒。它把本地推理从"逐字打字机"升级为"整块印刷机",主打速度敏感的交互式本地工作流。
本期看点
DiffusionGemma 开源:26B MoE 文本扩散模型一次并行生成整段文本、单卡 H100 超 1000 token/秒
模型
DiffusionGemma 开源:26B MoE 文本扩散模型一次并行生成整段文本、单卡 H100 超 1000 token/秒Google DeepMind 发布实验性开源模型 DiffusionGemma(Apache 2.0):跳出自回归逐 token 生成,以文本扩散一次并行生成整段文字,在专用 GPU 上把生成速度提到 4 倍——单张 H100 超 1000 token/秒、RTX 5090 超 700 token/秒。它是 26B 总参数的 MoE、推理时只激活 3.8B,量化后可进消费级高端卡的 18GB 显存。双向注意力让每个 token 关注全块,擅长行内编辑、代码填充等非线性任务,…其它期 ↗本期刊物按 2026 年 6 月 10 日 这一期的时间窗整理生成,范围是当前工作区发布的这一份内容包;条目版权归原作者与信源所有。