Omnibot

Omnibot 是一个创新的 AI 平台，利用 WebGPU 在您的浏览器中原生运行大型语言模型（LLM），确保您的数据在设备上安全处理，而没有任何服务器端的干预。凭借离线功能，Omnibot 为您带来浏览器内和离线的 AI 体验。它允许您在初始模型下载完成后离线使用选定的 LLM。所有 AI 模型在您的硬件上本地运行，确保您的数据仅在您的 PC 上处理。您还可以添加自定义指令/记忆，以便 AI 提供更好和更个性化的响应。

要使用 Omnibot，只需访问网站。一旦模型下载完成，您就可以离线使用它。确保您的 GPU 满足所需模型的内存要求（对于 7B 模型需要 6GB，3B 模型需要 3GB）。

使用 WebGPU 的浏览器内 AI 处理
离线功能
注重隐私的数据处理在您的设备上
支持自定义记忆以提供个性化的响应