【gallery】在手机上跑大模型?这款谷歌新工具让生成式 AI 真正离线、私密又好玩
Google AI Edge Gallery 是一款专为移动设备设计的开源应用,它让你无需联网、不上传数据,就能在手机上直接运行高性能的开源大语言模型(LLM)和多模态模型,真正实现私密、快速、可玩性强的本地生成式 AI 体验。
主要功能与特性
- Agent 技能系统:为模型添加实用工具能力,例如调用 Wikipedia 进行事实核查、加载交互式地图、生成图文摘要卡片;支持从 URL 加载技能或浏览社区贡献。
- AI 聊天 + 思考模式(Thinking Mode):支持多轮对话,并可开启“思考模式”查看模型逐步推理过程(当前首发适配 Gemma 4 系列)。
- Ask Image(识图问答):通过相机或相册上传图片,识别物体、解析视觉谜题、获取详细图文描述。
- Audio Scribe(语音转写):实时将录音转为文字,并支持翻译,全程在设备端完成。
- Prompt Lab(提示词实验室):提供参数精细调节(如 temperature、top-k),方便测试单次提示效果。
- Mobile Actions(移动动作):基于 FunctionGemma 270m 微调模型,实现离线设备控制与自动化任务(如设置闹钟、打开手电筒等)。
- Tiny Garden(迷你花园):一个用自然语言种菜收菜的趣味实验小游戏,同样基于 FunctionGemma 270m 微调。
- 模型管理与基准测试:支持一键下载 Hugging Face 上的 LiteRT 模型、加载自定义模型,并对不同模型在本机硬件上的实际性能进行横向 benchmark。
- 100% 离线隐私保障:所有计算均在设备本地完成,无需网络连接,你的文本、图片、语音全程不离开手机。
快速开始
安装非常简单:
– Android 用户:前往 Google Play 下载;无 Google Play 的设备可从 最新发布页 下载 APK 安装包。
– iOS 用户:前往 App Store 下载。
– 系统要求:Android 12+ 或 iOS 17+。详细安装指引与使用教程请参考 项目 Wiki。
适用场景与目标用户
这款应用特别适合:
– 注重隐私的普通用户:想体验大模型但不愿上传聊天记录、照片或语音到云端;
– AI 爱好者与教育者:希望直观理解模型如何推理(通过 Thinking Mode)、尝试不同提示策略(Prompt Lab)、或对比模型实际表现(Benchmark);
– 开发者与研究人员:需要轻量级、可扩展的移动端 LLM 沙盒环境,用于快速验证模型能力、集成自定义技能或测试 LiteRT 优化效果;
– 学生与初学者:通过 Tiny Garden、Ask Image 等趣味功能低门槛接触生成式 AI,建立对多模态、Agent、函数调用等概念的感性认知。
总结
Google AI Edge Gallery 不只是一款“能跑大模型的 App”,它把前沿的端侧 AI 能力——从推理可视化、多模态交互,到离线自动化与趣味实验——打包成一个稳定、易用、有温度的移动入口。作为一款实验性 Beta 应用,它已展现出清晰的技术路线与用户友好的设计哲学。如果你期待一个真正属于你自己的、不依赖云服务的 AI 助手,现在就是上手的最佳时机。建议访问其主页获取更详细信息。
