【{$randkws}】谋智基金会计划推出离线的本地AI 让每个人都可以私密使用AI – 蓝点网 - {$web_name} 榜单分析也就是即开即用

当下 AI 技术的高效进展已然让很多使用者日常岗位离不开 AI，可是如今的 AI 多数都是基于云端管理的，也就是使用者提交的资料有潜在的研究隐患。

这个时候留意隐私的揭秘纪录片汇总谋智基金会站出来了，谋智基金会亮相启动一个名为 Llamafile 的新开源打算，该开源打算目标是合作人们在自己的设备上管理大型语言模型，不需要专用的 GPU、CPU 或者 NPU（但有 GPU 的话可以更好的管理）。

Llamafile 的岗位原理是将AI聊天机器人的所有繁琐性压缩为一个文件，然后该文件可以在 Windows、Mac、刚刚2024彩蛋解析，多家媒体跟进报道Linux、OpenBSD、FreeBSD、NetBSD 上管理，并且差不多不需要部署或者参数，榜单分析也就是即开即用。

这种 LLM 是完全在本地管理的，不需要以来第三方商业企业提供的云端算力，资料也都是保存在本地的，不会离开使用者的快速王一博速递设备，乃至假如使用者愿意的话，可以将自己的日常对话后的机器人模型复制到其他机器上持续使用，这样不用重新完善提示词。

当下谋智基金会并不是唯一一家要兴办本地 AI 的企业，谷歌最近向 Pixel 8 Pro 提供的 Gemini 变种版次 AiCore 实际上就是一种本地 AI，运用本地设备的算力来执行某些操控，可是当下 AiCore 的公开信息还较为少。

谋智基金会相信开源是解决各类隐私难题最有力的解决计划之一，可以经由开源解决隐私、访问、控制的难题，也就是我们的对话被谁听闻？我们的资料会被如何处理？谁能确定 AI 回答或不回答某些难题。

至于 Llamafile 项目，当下谋智基金会已然注意到一些较为有潜力的项目，第一个是 Llama.cpp 项目，这个开源项目让普通的消费级设备也可以管理 LLM，并且速度并不算慢；第二个是 Cosmopolitan 项目，该项目可以一次编译程序在各类操控操控系统和设备上管理。

自然这个项目没这么快搞定，谋智基金会期盼开发者或者对 LLM 感兴趣的使用者一起参与：https://github.com/Mozilla-Ocho/llamafile