元鉴
返回中文阅读流

Google DeepMind Blog

发布 Gemma 3n 预览:强大、高效、移动优先的 AI

Gemma 3n 是一款专为设备上快速多模态 AI 设计的尖端开放模型,具有优化性能、独特的 2 合 1 模型灵活性以及扩展的音频多模态理解能力,赋能开发者构建实时交互式应用和高级音频中心体验。

中文内容

已翻译official company source英文原文2025-05-20

继令人兴奋的 Gemma 3 和 Gemma 3 QAT 发布之后,我们进一步推动了可访问 AI 的愿景。这些最先进的开放模型家族可以在单个云或桌面加速器上运行。Gemma 3 为开发者提供了强大的功能,我们现在将这一愿景扩展到高度 capable、直接在您日常使用的手机、平板电脑和笔记本电脑上运行的实时 AI。

为了推动下一代设备端 AI 并支持包括增强 Gemini Nano 功能在内的各种应用,我们 engineered 了一种新的尖端架构。这一代基础是在与 Qualcomm Technologies、MediaTek 和三星 System LSI 业务等移动硬件领导者密切合作下创建的,针对 lightning-fast 多模态 AI 进行了优化,可在您的设备上实现真正个性化和私密的体验。

Gemma 3n 是我们首个基于这一开创性共享架构构建的开放模型,允许开发者今天就开始早期预览实验这项技术。相同的先进架构也为下一代 Gemini Nano 提供动力,将把这些功能带入 Google 应用程序和设备端生态系统的大量特性中,并将于今年晚些时候可用。Gemma 3n 使您能够开始构建这一基础,它将来会进入 Android 和 Chrome 等主要平台。

Chatbot Arena Elo scores
此图表按 Chatbot Arena Elo 分数对 AI 模型进行排名;较高的分数(顶部数字)表示更高的用户偏好。Gemma 3n 在众多流行的专有和开放模型中排名靠前。

Gemma 3n 利用 Google DeepMind 的一项名为 Per-Layer Embeddings (PLE) 的创新,显著降低了 RAM 使用量。虽然原始参数计数为 5B 和 8B,但这项创新允许您在移动设备上运行更大的模型或从云端直播,其内存开销与 2B 和 4B 模型相当,意味着模型仅需 2GB 和 3GB 的动态内存占用即可运行。请在我们的文档中了解更多。

通过探索 Gemma 3n,开发者可以提前预览该开放模型的核心功能以及将在 Android 和 Chrome 上与 Gemini Nano 一起推出的移动优先架构创新。

在本文中,我们将探讨 Gemma 3n 的新功能、我们的负责任开发方法以及您如何今天就访问预览版。

Gemma 3n 的关键功能

专为本地运行的快速、低占用 AI 体验而设计,Gemma 3n 提供:

  • 优化的设备端性能与效率:Gemma 3n 在移动设备上的响应速度约快 1.5 倍,质量显著提高(与 Gemma 3 4B 相比),并通过 Per Layer Embeddings、KVC 共享和高级激活量化等创新实现了降低的内存占用。

  • 多合一灵活性:一个具有 4B 活动内存占用的模型,原生包含嵌套的尖端 2B 活动内存占用子模型(得益于 MatFormer 训练)。这提供了动态权衡性能和质量的灵活性,而无需托管单独的模型。我们在 Gemma 3n 中进一步引入了 mix'n'match 功能,可以从 4B 模型动态创建子模型,以最佳方式适应您的特定用例——及相关的质量/延迟权衡。请关注我们即将到来的技术报告中关于此项研究的更多内容。

  • 隐私优先且支持离线:本地执行实现了尊重用户隐私的功能,即使在无互联网连接的情况下也能可靠运行。

  • 扩展了带音频的多模态理解:Gemma 3n 可以理解和处理音频、文本和图像,并提供显著增强的视频理解能力。其音频功能使模型能够执行高质量的自动语音识别(转录)和翻译(语音转译文)。此外,该模型接受跨模态的交错输入,能够理解复杂的多模态交互。(公共实现即将推出)

  • 改进的多语言功能:提升了多语言性能,特别是在日语、德语、韩语、西班牙语和法语方面。在多语言基准测试中表现强劲,例如在 WMT24++ (ChrF) 上达到 50.1%。
MMLU performance
此图表展示了 Gemma 3n mix-n-match(预训练)功能的 MMLU 性能与模型大小对比。

解锁新的随行体验

Gemma 3n 将通过使开发者能够来赋能新一波智能随行应用:

  1. 构建了解并响应用户环境实时视觉和听觉线索的实时交互体验。

2. 使用结合音频、图像、视频和文本输入驱动更深层理解和上下文文本生成——全部在设备上私有处理。

3. 开发先进的以音频为中心的应用程序,包括实时语音转录、翻译和丰富的语音驱动交互。

以下是概述和您可构建的体验类型:

链接到 Youtube 视频(仅在禁用 JS 时可见)

共同负责任地构建

我们对负责任的 AI 开发的承诺至关重要。Gemma 3n 像所有 Gemma 模型一样,经历了严格的安全评估、数据治理和与安全策略的精细微调对齐。我们在开放模型上进行仔细的风险评估,随着 AI 格局的变化不断磨练我们的实践。

开始使用:今日预览 Gemma 3n

我们很兴奋能从今天开始的预览中将 Gemma 3n 送到您手中:

初始访问(立即可用):

  • 使用 Google AI Studio 进行云端探索:直接在浏览器中的 Google AI Studio 尝试 Gemma 3n,无需设置。立即探索其文本输入功能。

  • 使用 Google AI Edge 进行设备端开发:对于希望本地集成 Gemma 3n 的开发者,Google AI Edge 提供工具和库。您今天就可以开始使用文本和图像理解/生成功能。

Gemma 3n 标志着民主化获取尖端、高效 AI 的下一步。我们非常期待看到您将构建什么,因为我们使这项技术逐步可用,从今天预览开始。

从 5 月 22 日起,在 io.google 上查看此公告和所有 Google I/O 2025 更新。

发布栏目:
  • 正文:Gemma
  • 正文:AI
  • 公告
  • 行业趋势
  • 解决方案
  • 生成式 AI
  • 移动应用开发
  • 多模态 AI
  • 学习
  • 开发者工具
  • 开放模型
  • 正文:Gemini Nano
  • 设备端 AI
  • 正文:Gemma 3 Nano
上一页
下一页

原文标题

Announcing Gemma 3n preview: Powerful, efficient, mobile-first AI