机器之机杼剪部
不才载量打破 1.5 亿次之际，谷歌 Gemma 4 系列模子迎来了新的家眷成员！
今天，谷歌戒备推出 Gemma 4 12B，观念是把具备智能体才智的多模态智能，径直带到札记本电脑上。
字据先容，Gemma 4 12B 介于面向角落设立的 E4B 与才智更强的 26B 羼杂大家模子（MoE）之间，在更小的内存占用下提供了雄壮的才智。
另外，Gemma 4 12B 亦然谷歌首个复旧原生音频输入的中等限制模子。
谷歌 DeepMind 首创东谈主兼 CEO 哈萨比斯，「为庆祝 Gemma 4 下载量打破 1.5 亿次这一要紧里程碑，谷歌发布了全新的 Gemma 4 12B 模子！关于这么一个小尺寸模子来说，它的才智终点雄壮；同期，它也实足轻量，只需 16GB 显存，就能在札记本电脑上腹地开动。」
全国不错用它构建了多样千般的运用，从用于物理提拔的可一稔机器东谈主手臂，到企业级 AI 安全系统。谷歌也期待看到斥地者用这款最新模子创造出更多可能。
这次，Gemma 4 12B 模子具有以下几大特质：
全新的和解架构：不再使用多模态编码器，视觉和音频输入不错径直干预 LLM 骨干网罗。
更强的推理才智：在基准测试中的发扬接近谷歌的 26B 模子，好像复旧雄壮的多步推理和智能体责任流。
合适札记本腹地开动：模子限制实足小，只需要 16GB 显存或和解内存即可在腹地开动。
怒放且易于赢得：遴荐 Apache 2.0 许可证发布，并复旧平庸的斥地者生态。
复旧草稿模子加快：Gemma 4 12B 配备了多 Token 瞻望（MTP）草稿模子，可用于缩短延长。
当今，用户不错通过 LM Studio、Ollama、Google AI Edge Gallery App、Google AI Edge Eloquent App 以及 LiteRT-LM CLI 等渠谈进行试用。
在 GPQA Diamond、BBEH、MMLU Pro、LiveCode Bench、DocVQA、InfoVQA、MMMU Pro 和 MRC v2.8 needle 128k（average）等一系列基准测试中，Gemma 4 12B 的发扬接近谷歌更大的 26B MoE 模子，但合座内存占用不到后者的一半。
而况，它的限制实足小，kaiyun云开体育不错在配备 16GB 内存的构陷级札记本电脑上腹地开动，从而把雄壮的多模态体验和智能体才智带到你的个东谈主设立上。
有东谈主在一张 RTX 4090 上腹地开动了 Gemma 4 12B 和 Gemma 4 26B-A4B，并给它们移交了湮灭个任务：在不使用任何库的情况下，用单个文献写出一个自包含的 HTML5 Canvas 动画，并加入果然物理后果。测试包含三个场景：高尔顿板、两个方块与墙面碰撞，以及吞吐三重摆。输出适度如下：
Gemma 4 26B-A4B：占用 15GB 显存，生成 6.9k tokens，速率 138 tokens/s
Gemma 4 12B：占用 9GB 显存，生成 8.9k tokens，速率 80 tokens/s
同属 Gemma 4 家眷，但 26B-A4B 在三个场景中齐胜出，而且开动速率快了约 1.7 倍，它的活跃参数目唯独 4B。不外，12B 的发扬也终点接近，同期显存占用简直唯惟一半。这也让它成为 16GB 札记本上的理思腹地模子。
另外，Gemma 4 12B 最隆起的地点在于，它处治视觉和音频输入的时势愈加精简。
传统多模态模子往往依赖放心编码器，先把图像和音频改动成模子可交融的示意，再传递给话语模子。但这些差别式编码器会带来突出延长，也会增多内存占用。因此，谷歌在老到 Gemma 4 12B 时遴荐了无编码器架构，让音频和视觉输入好像径直整合进模子。
Gemma 4 12B 原生处治多模态输入的时势如下：
视觉：谷歌用一个轻量级镶嵌模块替代了 Gemma 4 的视觉编码器。这个模块由一次矩阵乘法、位置镶嵌和归一化构成，让 LLM 骨干网罗领受视觉处治。
音频：音频处治进一步简化。谷歌全齐移除了音频编码器，并将原始音频信号投影到与文本 token 一样的维度空间中。
在 Google AI Edge Eloquent App 中，Gemma 4 12B 不错全齐离线完谚语音输入的转录、动作整理和翻译。
kaiyun体育中国2026世界杯入口
