PocketPal中文版 v1.12.2
PocketPal中文版是一款直接在手机上本地运行大模型的离线AI助手,这款软件的功能非常的厉害,特别是无需联网就能和AI对话,并且所有数据都留在你的手机里,不用担心安全问题!而且软件支持DeepSeek、Qwen等多种开源大模型,用户们可以从Hugging Face直接下载GGUF格式的模型文件在手机上运行!但要注意的是,这款软件受限于手机硬件,无法运行太过复杂的大模型。只能运行哪些小一些的小参数模型!
PocketPal中文版本地模型加载教程
1、用户可以在app中直接下载模型,下载时需要连接到互联网
2、比如这里可以下载到谷歌ai大模型Gemma,阿里通义千问的大模型Qwen等
3、其它ai大模型,比如DeepSeek的可以点击右下角的添加按钮,将手机里下载好的模型加载进来即可
4、模型加载后设置完成后可进入设置界面进行相关设置,设置完成后即可进行诸如随时随地与模特进行私密的离线对话等相关操作
PocketPal中文版软件亮点
1、完全离线运行:所有模型都在手机本地运行,不需要联网也能使用,飞机模式、地下车库、偏远地区都没问题;
2、隐私安全第一:所有对话数据完全在设备本地处理,不会上传到任何云端服务器,数据不会离开你的手机;
3、开源透明:项目完全开源,代码公开可查,没有任何遥测和数据收集行为,隐私保护经得起验证;
4、完全免费:所有基础功能完全免费,没有任何收费项目,可以自由下载和使用各种开源模型。
PocketPal中文版功能特色
1、海量模型支持:支持从Hugging Face下载数百种开源GGUF格式模型,DeepSeek、Phi、Gemma、Qwen等主流模型都能用;
2、智能内存管理:后台自动卸载模型以节省内存资源,再次打开时快速重载,确保手机运行流畅不卡顿;
3、实时性能指标:聊天时显示每秒生成令牌数和每个令牌的毫秒数,直观了解模型在手机上的运行性能;
4、高级参数调节:支持自定义温度、BOS标记、聊天模板等高级LLM设置,满足进阶用户的调参需求。
PocketPal中文版内容优势
1、多模型自由切换:可以同时下载多个模型,在不同模型之间自由切换对比效果,找到最适合自己的那一个;
2、硬件加速支持:iOS支持Metal加速,安卓支持NNAPI加速,充分发挥手机硬件性能提升推理速度;
3、内置基准测试:可以在手机上对模型性能进行基准测试,了解自己手机能跑什么规模、什么速度的模型;
4、Pals角色系统:支持从Palshub.ai导入AI角色人格,给模型赋予个性和定位,让对话更有趣。
PocketPal中文版常见问题
1、需要什么手机:建议骁龙835或更高性能的处理器,至少6GB运行内存,8GB以上体验更好,低端手机跑不了大模型;
2、模型在哪下载:可以在App内置的模型页直接下载,也可以从Hugging Face下载GGUF格式的模型文件手动导入;
3、怎么切换中文:软件支持中文显示,在设置中将语言切换为中文即可,操作界面会变成全中文;
4、模型占用空间大吗:不同模型大小不同,1.5B的小模型约1-2GB,7B模型约4-8GB,建议保证足够存储空间。
更新日志
v1.14.0
1、改进的聊天管理:支持批量删除和导出聊天记录;
2、更好的视觉模型控制:可配置的图像标记限制;
3、添加印尼语支持;
4、修复了已知问题。




