【{$randkws}】手机上本地运行AI模型是怎样的体验？体验就是我确实还是太自信了… – 蓝点网 - {$web_name} 这个暂时没解决办法

前天蓝点网谈及MLC团队启动扶持在移动电话上管理的AI模型 ，该团队还开发iOS版的演示程序可开展轻度感受。

恰逢假期蓝点网今晚才有空开展感受和评测，尽管看开发团队的造型点评：消息说明我已然做好心理筹备但着实还是自信了。

实际感受下来也的确只有演示特性不能正常使用，首要是移动电话存储和图形表现还是不够管理模型还是太吃力。

👆生成上面的回答大约花费20分钟

MLC Chat为何值得留意：

当下各位熟知的AI模型都是基于云端的，即模型在云端管理由办事提供商运用GPU阵列提供强大的算力扶持。

使用这些AI机器人的不足就是你的对话会被办事提供商收集，鬼得知下次提问是不是推荐莆田系医院。

也有不少开源模型扶持离线部署，最新游戏本快报可是参数较低的显卡通常极其卡顿或直接无法使用，这个暂时没解决办法。

既然桌面端都无法很好的管理模型那移动电话更不或许 , 但 MLC Chat 就是个基于移动电话本机管理的大型语言模型。

乐观预计前方我们应该可以人手一个离线的对话机器人，直接在本机管理，网友安卓版本Tips不用忧虑对话资料被泄密的难题。

所以MLC团队的岗位是令人盼望的，只可是吧，就当下来说想要在移动电话上管理离线的大型语言模型着实艰难。

👆中文回答基础20~30字后就是乱码信息

感受遇到哪些难题：

评测机型是 iPhone 12 Pro Max，存储为6GB方才达到MLC Chat的门槛，存储足够可以保证模型能跑起来。

至于真正的对话还考验移动电话的 GPU 能力，比如在iPhone 12 Pro Max 上对话是可以对话但是速度极其慢慢。

由于返回的信息实在太慢不小心移动电话黑屏，再开启对话已然被重置，显然存储爆表操控系统直接把存储清理干净。

并且每次开启这个模型后其他程序也整体会被杀掉 ，这个倒是不意外，毕竟存储已然被MLC Chat直接耗尽。

就实际对话方面MLC Chat 的能力还是较为弱的，英文还能正常回答，中文信息基础都是各类乱码没法查看。

可是毕竟只是演示程序并且还是在移动电话本地管理的评测，呈现这些难题完全能理解，盼望后面感受越来越好。

你可以访问这里获取MLC Chat，模型3GB请耐心等待获取：https://testflight.apple.com/join/57zd7oxa

你也可以在 Windows、Linux、macOS 以及阅读器上感受该模型，具体可查看蓝点网前天亮相的这篇文章。