作者 / 代表 Gemma 和 ODML 团队的产品经理 Kat Black,研究工程师 Ravin Kumar
对于 Gemma 模型系列而言,2025 年是充满变革的一年。我们的下载量已从 1 亿次增长到超过 3 亿次,同时还展现了开放模型的变革潜力: 从凭借Gemma 3定义最先进的单加速器性能,到通过C2S Scale 计划推动癌症研究,皆是最佳佐证。
自Gemma 3 270M模型发布以来,我们收到开发者最迫切的需求就是原生函数调用功能。我们认真听取了这一反馈,意识到随着行业从纯粹的对话式交互向主动智能体转变,模型不能仅局限于对话,更需要具备执行能力。这在设备端尤为重要,因为智能体可以自动执行复杂的多步骤工作流程,例如设置提醒或切换系统设置。若要在边缘端实现这一点,模型必须足够轻量级以支持本地运行,同时还要具备足够的专业性以确保可靠性。
现在,我们正式推出了 FunctionGemma,这是针对函数调用而特别优化的 Gemma 3 270M 模型版本。它旨在为进一步训练定制化、快速、私密且本地运行的智能体奠定坚实的基础,从而将自然语言翻译成可执行的 API 操作。
FunctionGemma 可以作为完全独立的智能体,处理私密的离线任务,也可以作为大型互联系统的智能分流器。在此模式下,它能够在边缘端即时处理常见指令,同时将更复杂的任务调度至 Gemma 3 27B 等模型进行处理。
FunctionGemma 的独特之处
执行与对话合二为一: FunctionGemma 既能与计算机 "对话",也能与人类交流。它可以生成结构化的函数调用来执行工具,然后切换到相应模式,用自然语言为用户汇总结果。
为定制化而生: FunctionGemma 的设计理念在于按需塑造,而不仅仅是依靠提示驱动。在我们的 "Mobile Actions" 评估中,微调提升了模型的可靠性,将准确率从 58% 的基准线提高到 85%。这证实了对于边缘端智能体而言,经过专门训练的专家模型是实现生产级性能的高效捷径。
专为边缘计算设计: 该模型体积小巧,足以在NVIDIA Jetson Nano等边缘设备和手机上运行,FunctionGemma 使用了 Gemma 的 25.6 万词表,能够高效地对 JSON 与多语言输入进行分词处理。这使得它成为在特定领域微调的强大基础,通过缩短序列长度来确保极致的低延迟表现,并确保用户隐私。
广泛的生态系统支持: 该模型可无缝融入整个工作流中常用的工具: 可以使用Hugging Face Transformers、Unsloth、Keras 或NVIDIA NeMo进行微调,并使用LiteRT-LM、vLLM、MLX、Llama.cpp、Ollama、Vertex AI或LM Studio进行部署。

△ FunctionGemma 在 "Mobile Actions" 数据集上的准确率变化,基于预留评估集上微调前后的对比。
选择 FunctionGemma 的时机
FunctionGemma 是自然语言与软件执行之间的桥梁。在以下情境,FunctionGemma 是您的不二之选:
您有明确定义的 API 接口范围: 您的应用具备一套既定的功能操作 (例如智能家居、多媒体、导航等)。
您已准备好进行微调: 您需要的是通过对特定数据进行微调所带来的高度一致性与确定性,而不是零样本提示带来的不确定性。
您优先考虑 "本地优先" 的部署方式: 您的应用需要近乎即时的响应延迟与完全的数据隐私保护,并且能够在边缘设备的计算与电池限制下高效运行。
您正在构建复合系统: 您需要一个轻量级的边缘模型来处理本地操作,使您的系统能够在设备端即时处理常见指令,并且仅在遇到更复杂任务时才会调用更大规模的模型 (如 Gemma 3 27B)。
如何体验 FunctionGemma 的实际效果
让我们看看这些模型如何重塑真实的用户体验。您可以通过Google AI Edge Gallery 应用中的两种不同体验来探索它的能力: 一个互动游戏和一个开发者挑战。
Mobile Actions 微调
这个演示重新构想了助理交互的形式,使其成为完全离线的能力。无论是 "为明天的午餐创建一个日程"、"将 John 添加到我的联系人" 还是 "打开手电筒",该模型都能解析自然语言并识别正确的操作系统工具来执行命令。要解锁这个智能体,您可以使用我们的微调操作手册来构建模型,并将其部署到自己的移动设备上。
TinyGarden 游戏演示
在这个互动小游戏中,玩家使用语音指令来经营一块虚拟土地。例如,您可以说 "在最上面一排种向日葵并浇水",模型会将此指令分解为具体的应用函数,比如 "种植作物 (plantCrop)" 或 "给作物浇水 (waterCrop)",并针对特定的网格坐标进行操作。这证明,270M 模型能够在手机上处理多轮逻辑,驱动自定义游戏机制,而无需连接服务器。
FunctionGemma Physics Playground
使用自然语言交互来解决有趣的物理模拟谜题吧!这个游戏完全在您的浏览器中本地运行,由 FunctionGemma 和 Transformers.js 提供支持!
致谢: @xenovacom (来自 X)
如何立即体验 FunctionGemma
我们正从 "聊天机器人时代" 迈向 "行动时代"。有了 FunctionGemma,这种强大的能力便触手可及。
下载: 前往Hugging Face或Kaggle获取模型。
学习: 阅读相关指南,了解函数调用模板、如何将模型与函数响应序列化以及微调指南。
探索: 下载新版Google AI Edge Gallery,体验相关演示。
构建: 通过Colab Notebook和配套数据集,使用 Mobile Actions指南训练您的专属智能体。
部署: 使用LiteRT-LM轻松将模型部署到移动设备,或将其接入 Vertex AI 或 NVIDIA RTX PRO、DGX Spark 等设备,与更大的模型搭配使用。
我们迫不及待地想看到,您将如何在设备上开启独特、私密且极致响应的全新体验。也欢迎您持续关注 "谷歌开发者" 微信公众号,及时了解更多开发技术和产品更新等资讯动态。
- 随机文章
- 热门文章
- 热评文章
- 中新电竞对话阿豆:他人亦自我,中新电竞对话阿豆:他人亦自我
- 万科“回血”:已完成所有A股库存股出售
- 夏厦精密(001306):2025年限制性股票激励计划(草案)
- 甘肃能源(000791):民勤100万千瓦风光电一体化项目获得核准(备案)
- 杭州高新(300478):召开2025年第一次临时股东大会的通知
- 杭州高新(300478):公司董事辞职
- 莱美药业(300006):持股5%以上股东所持部分股份被动减持的预披露公告
- 恒指高开 特朗普将提前离开G7峰会并返回美国(行情)-更新中
- 1[风险]嘉实原油LOF (160723): 嘉实原油证券投资基金(QDII-LOF)溢价风险提示公告
- 2广西三地接连发布公告:禁止前往!后果自负!
- 3甜蜜的事业,幸福的滋味……
- 4SCADA系统的NAT转换与网段隔离解决方案
- 5芦苇任中国邮政集团副总经理
- 6A股三大股指集体收涨,沪指续创10年新高,A股三大股指集体收涨,沪指续创10年新高
- 7穆勒矩阵椭偏仪:DVRMME技术的系统误差建模与校准补偿
- 8政策定调催生新主线,A股跨年行情蓄势待发
- 1废砖瓦里砌出风景线 湖南靖州深山村寨美丽嬗变,废砖瓦里砌出风景线 湖南靖州深山村寨美丽嬗变
- 2文科生也可以学医了!多所高校中医学类专业选科放宽,文科生也可以学医了!多所高校中医学类专业选科放宽
- 3湖南零陵发展数字农业 现代农民种粮更轻松,湖南零陵发展数字农业 现代农民种粮更轻松
- 4上午买食材、下午逛潮店 古城老菜场人气足,上午买食材、下午逛潮店 古城老菜场人气足
- 5广东怀集所有国省道主线均已抢通,广东怀集所有国省道主线均已抢通
- 6520分钟攻坚!成渝中线高铁成都站改建工程进度过半,520分钟攻坚!成渝中线高铁成都站改建工程进度过半
- 7广东清远连山紧急转移8名村民 避险山体滑坡,广东清远连山紧急转移8名村民 避险山体滑坡
- 8中意经典著作互译出版项目启动 四部重磅作品首批入选,中意经典著作互译出版项目启动 四部重磅作品首批入选
