[转载搬运] 手机离线跑AI的最佳选择：ChatterUI [1+7g]

baidu100

在众多手机本地运行AI的应用程序中，ChatterUI以其卓越的性能和用户体验脱颖而出，成为我个人最推荐的选择。以下是其突出优点：
8 @* p1 Q! G; I/ ~" X/ O
' c- A( K8 |$ `6 y

2 X$ d; y, K1 S1 n' D8 t; Z4 U9 F, f: f1. TTS语音朗读对话：ChatterUI支持文本转语音（TTS）功能，能够将对话内容朗读出来，提供更便捷的交互方式。

' a5 `: ~/ l8 r5 p" L2. 美观排版与重点高亮：该应用的界面设计简洁美观，对话内容排版清晰易读，同时支持对重点部分进行高亮显示，便于用户快速抓住关键信息。

$ ?6 N  h6 V0 d, F% V) F3. 重新生成答案：ChatterUI允许用户对不满意的答案进行重新生成，提供更准确或更符合需求的回答。

4. 对话内容可复制：用户可以轻松复制对话内容，便于后续使用或分享。
4 t# z) M) x# w5 N9 z- z
2 G. f( g- s  H3 I, H5、支持输出Markdown表格
) b. |3 Z5 L( K2 F% K1 K

6 @/ [: Y& s: d! V7 r
在旧手机小米9（骁龙855, 8GB RAM）上的运行表现
' B* A. B& W. |; f, I& c9 M) M

) }0 A. i% x+ Y1 D: B+ E0 E
令人惊喜的是，ChatterlUI在旧手机小米9（搭载骁龙855处理器和8GB RAM）上能够流畅运行3B模型（模型文件大小约为2GB）。这得益于bartowski对q4质量模型的优化，使其能够更好地适应手机的Arm芯片架构。



使用方法
& z. }' ^* y+ z; a) ^
! C+ v7 M9 C- R" g; z/ W1、解压下载的压缩包，安装ChatterUI

# l$ E& O3 ?: S" D! _2、打开软件，点左上菜单，选择Models，点击右上角加号，选择压缩包内的语言模型（包内有三个，配置越高的手机选择越大的)，导入成功会显示该模型的详细信息，点一下右下角的启动。

3、退回首页，就可以和AI对话了（第一次打开要把模型跑起来，会慢一点，耐心等一会儿，后面就很快了。)
2 H0 e: ^: c% p7 \: o& b