PocketPalAI

PocketPal AI是一款移动端离线AI助手应用，核心优势在于无需联网即可在本地运行开源大语言模型。应用深度集成Hugging Face平台，支持GGUF格式的多种开源模型如DeepSeek、Gemma等，可自由下载并切换模型。

软件功能

1.无需互联网连接，直接在手机上与本地运行的AI模型对话，适合无网络或不便联网的场景。

2.所有对话数据均在设备本地处理，不经过云端服务器，杜绝隐私泄露风险。

3.模型基准测试，可在手机端对不同模型进行性能基准测试，并将结果与社区分享。

4.支持下载Gemma、Qwen等主流开源模型，也可手动导入本地GGUF格式模型文件。

5.后台自动卸载不常用模型以节省系统资源，再次打开时快速重载，保证应用流畅运行。

软件亮点

1.隐私优先设计，对话数据保留在本地设备，不向任何云端服务器上传，确保完全的隐私与安全。

2.完全离线运行，模型下载完成后即可断网使用，所有推理计算均在手机本地完成。

3.本地优化的LLM技术，针对移动端本地推理进行深度优化，在手机硬件条件下实现可用的对话体验。

使用教程

（一）下载与加载模型

1.打开PocketPal AI应用，进入模型下载界面。

2.连接Wi-Fi网络，从内置模型列表中选择需要的模型（如Gemma、Qwen等）开始下载。

3.如需导入其他GGUF格式模型（如DeepSeek），点击右下角「添加」按钮，从手机本地存储中选择模型文件导入。

4.模型加载完成后，进入设置界面根据需要配置推理参数。

5.配置完成后即可开始离线对话。

（二）设置中文界面

1. 打开应用，点击左上角三条横线菜单按钮。

2. 在弹出菜单中选择「Settings」进入设置页面。

3. 下拉找到「Language」栏目。

4. 点击当前语言「EN」旁的下拉箭头，选择「中文」即可切换界面语言。

常见问题

Q1：下载模型时提示网络错误或速度极慢？

A：可在「设置—下载」中开启镜像加速；或在PC端手动下载GGUF文件后，通过本地导入功能传输至手机模型目录。

Q2：运行7B以上模型时手机发烫严重？

A：可在高级设置中将上下文长度降至2048，或选择4-bit量化版本；并在性能管理中启用省电模式，以部分速度换取温度控制。

Q3：中文回答出现乱码或逻辑混乱？

A：确保下载的模型本身支持中文（如Qwen、Gemma-2-9B-Chinese），在推理设置中将系统提示词设为中文；部分模型需手动将Chat Template指定为chatml格式才能正确处理中文。

Q4：应用后台被杀后对话记录丢失？

A：PocketPal AI默认不保存聊天记录以保护隐私。如需保留，可在「设置—隐私」中开启本地历史记录，记录将加密存储于应用私有目录；卸载前请手动导出备份。

更新日志

v1.12.2版本

1.改进的聊天管理，批量删除和导出聊天记录

2.更好的视觉模型控制，可配置的图像标记限制