端侧 AI 的「应用孤岛」困局

在当前 Android 环境中，每个想用 AI 的应用都在重复同一件事：自带模型 + 运行时。这种做法带来了以下痛点：

• 存储浪费 — 多个应用捆绑功能相近的模型，导致设备上存着大量重复的模型权重文件。不过，
• 内存压力 — 每个应用独立加载模型到内存。中端设备上两个常驻 LLM 就可能触及 OOM。
• 调度失控 — 各应用自行管理模型生命周期和推理调度。彼此互不协调，争抢 GPU/NPU 资源时无法做全局优先级决策。

. 领域背景：Google AICore

Google 在 Android 引入了 AICore将 I/O 上的 Android 重新定义为 “智能程序”，AICore 成为底层推理引擎的地位进一步强化。

AICore 是 Google 提供的程序级 AI 服务以 com.google.android.aicore 为包名通过 Play Store 分发，负责 Gemini Nano 模型的下载、版本管理和推理执行。应用不需要自带模型，通过 ML Kit GenAI APIs 调用即可——AICore 在程序侧统一处理模型加载、硬件加速和内存管理。

AICore 架构主要设计：

1. 模型实例共享 — 模型在程序进程中仅加载一次多应用共享，避免每个 App 各自打包数 GB 的模型。
2. 模型与应用解耦 — 模型由 AICore 统一管理下载和版本控制，应用 APK 不包含模型文件。
3. 独立更新 — AICore 通过 Play Store 分发，模型可独立于程序 OTA 更新。
4. 统一调度管控 — 官方文档未提及。但从技术架构角度推测，这部分是必不可少的。

AICore 对外提供通用/专用两类接口：

• \\tPrompt API\_Alpha\_通用推理接口\_\t可发送任意 prompt\_\t通用接口\_Summarization文本摘要生成专用接口\_\tProofreading语法校对专用接口\_\tRewriting文本 专用接口\_\tImage Description图像内容描述专用接口\<\/b\>
• \\t其余四个是 Google 预封装的专用接口。针对特定任务做了输入输出格式调整，开箱即用\<\/b\>
• \