端侧 AI

这一门下的精选 · 4 条

21:00NVIDIA Blog精选评分 70

NVIDIA 发布 64GB 统一内存版 DGX Spark，10 月 23 日开售 4999 美元起

NVIDIA DGX Spark 64GB Gives Developers More Ways to Build and Scale Local AI

NVIDIA 将推出 64GB 统一内存版 DGX Spark，10 月 23 日由宏碁、华硕、戴尔、技嘉、惠普和微星发售，起售价 4999 美元。该配置沿用 GB10 Grace Blackwell 超级芯片、DGX OS 与 NVIDIA AI 软件栈，单机支持最高 1000 亿参数模型；两台可通过 ConnectX-7 直连，借助 NVIDIA Sync Cluster Assistant 组成集群，内存合计 128GB，模型支持上限提升到 2000 亿参数，NVIDIA 在 Qwen 3.8 27B 测试中给出的性能提升为最高 1.7 倍。月底还将推出 NVIDIA Sync Model Launcher，用于下载并启动本地模型，Blender 也计划提供预构建安装包。

产品#NVIDIA#DGX Spark

推荐理由：64GB 版沿用 GB10 芯片与完整软件栈，双机集群可共享 128GB 内存，读者可据此比较本地跑大模型的单机与集群取舍。

00:24Google DeepMind精选评分 68

DiffusionGemma 开源：26B MoE 文本扩散模型一次并行生成整段文本、单卡 H100 超 1000 token/秒

DiffusionGemma: 4x faster text generation

Google DeepMind 发布实验性开源模型 DiffusionGemma（Apache 2.0）：跳出自回归逐 token 生成，以文本扩散一次并行生成整段文字，在专用 GPU 上把生成速度提到 4 倍——单张 H100 超 1000 token/秒、RTX 5090 超 700 token/秒。它是 26B 总参数的 MoE、推理时只激活 3.8B，量化后可进消费级高端卡的 18GB 显存。双向注意力让每个 token 关注全块，擅长行内编辑、代码填充等非线性任务，并能整块自我纠错。官方提醒其质量低于标准 Gemma 4，追质量仍用 Gemma 4；权重已上 Hugging Face，支持 MLX、vLLM、Transformers 与 llama.cpp 等。

模型#Google DeepMind

推荐理由：把文本扩散做成可用的开源模型，给出明确的并行解码与量化显存口径，本地高速场景可据此评估迁移。

22:10Google DeepMind精选评分 71

Gemma 4 12B 开源：去掉多模态编码器、把图像与音频直灌进 LLM 主干，16GB 内存即可笔记本本地跑、性能接近 26B MoE

Introducing Gemma 4 12B: a unified, encoder-free multimodal model

Google DeepMind 发布 Gemma 4 12B，一款把 agentic 多模态智能带到笔记本的开源模型，填补面向边缘的 E4B 与更强的 26B MoE 之间的空档，也是首个支持原生音频输入的中型 Gemma。架构上的关键是无编码器：视觉用一个单次矩阵乘加位置编码与归一化的轻量嵌入模块替换掉原视觉编码器，音频则彻底移除编码器、把原始音频信号投影到与文本 token 同一维度空间，由 LLM 主干直接处理，从而降低延迟与显存。它在标准基准上逼近 26B MoE、内存占用不到一半，16GB 显存即可本地运行；以 Apache 2.0 发布、配 Multi-Token Prediction 草稿器降延迟。Gemma 4 系列下载量已破 1.5 亿。

模型#Google DeepMind

推荐理由：用一个反直觉的无编码器设计把音频与视觉并入主干，同时给出 16GB 与逼近 26B 的量化口径，端侧多模态选型可据此直接对比。

00:00Google DeepMind精选评分 83

Gemma 4 开源家族发布：E2B/E4B/26B MoE/31B 四档、Apache 2.0，31B 登上 Arena AI 开源榜第3、系列累计下载破4亿

Gemma 4: Byte for byte, the most capable open models

Google DeepMind 发布 Gemma 4——迄今最智能的开源模型家族，专为高级推理与 agentic 工作流打造，主打破纪录的每参数智能，以 Apache 2.0 许可广泛开放。自初代发布以来开发者已下载 Gemma 超 4 亿次、社区衍生出逾 10 万个变体。Gemma 4 提供四种尺寸：Effective 2B(E2B)、Effective 4B(E4B)、26B 混合专家(MoE)、31B Dense，全系列从简单对话跃升到处理复杂逻辑与 agent 流程；31B 在业界标准的 Arena AI 文本排行榜上位列全球开源模型第3、26B 位列第6，在同榜上跑赢比自身大 20 倍的模型。它与 Gemini 互补，覆盖从数十亿 Android 设备、笔记本 GPU 到工作站与加速器的硬件。文中举例 INSAIT 据此做出保加利亚语优先的 BgGPT、与 Yale 合作的 Cell2Sentence-Scale 用于发现癌症疗法新路径。

模型#Google DeepMind

推荐理由：把开源模型的每参数智能推上新高度，并给出榜单位次与生态规模，端侧到工作站全档覆盖，选型可直接据此比较。

第 1 / 1 页 · 共 4 条

主题由这一份内容包的词表定义（标签词与判定抽出来的分类、主体对词）， 读数与「精选」那一屏同一把尺子。范围始终只有当前工作区的行业包。