【github 有趣项目】Google AI Edge Gallery 手机(Android)离线运行大模型
Google AI Edge Gallery是由Google AI Edge团队开发的开源Android应用,支持在移动设备本地运行生成式AI模型。该应用提供多模态功能包括多轮对话(AI Chat)、图像问答(Ask Image)和提示词实验(Prompt Lab),但当前版本暂不支持本地聊天记录保存。技术方面整合了Hugging Face模型库,采用LiteRT+MediaPipe框架进行边缘计
·
- Google AI Edge Gallery 是由 Google AI Edge 团队开发的一个开源 Android 应用,能够 在移动设备本地运行生成式 AI 模型。
功能评测
-
支持多轮聊天(AI Chat)、图像问答(Ask Image)、Prompt 实验室(Prompt Lab)等多模态功能。
- AI Chat:可进行多轮对话,但当前版本还没有保存本地聊天记录功能,退出后相关聊天信息会被清除(但是有Input history共能,保存历史输入数据)
- Ask Image:上传或拍照图像,询问内容如识别物体、描述内容
- Prompt Lab:试验提示词能力,进行文本转写、摘要、代码生成等

技术栈
- 整合 Hugging Face 模型库:在 app 内直接浏览、下载、切换模型,并与 OAuth 2.0 (AppAuth for Android) 登录集成

- LiteRT(前身 TensorFlow Lite) + MediaPipe(Google AI for developers):用于高效地在边缘设备上执行推理

- 量化模型支持:支持 4 位/8 位量化,加快推理速度、降低设备资源占用
- Kotlin100.0% : Compose UI + CameraX + WorkManager:现代 Android 架构搭建 UI、图像输入、后台下载与管理
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)