NobodyWhoNobodyWho

NobodyWho 是一个开源推理引擎,目标是让大模型跑在任意设备上——手机、桌面、嵌入式都算在内,文本、视觉、语音三类模型都支持。

模型来源直接对接 Hugging Face,Mistral、OpenAI 开源模型、Liquid、Qwen、DeepSeek、Gemma 这些都能挑来用,格式是 gguf。

接入方式是它最舒服的一点。React Native、Dart(Flutter)、Kotlin、Swift、Python 都有原生 SDK,连 Godot 游戏引擎都有专门的节点,基本都是几行代码就能跑起一个对话。近期还补上了 STT 和 TTS,语音链路也能全部留在设备上。

适合做离线优先、隐私敏感或者没有稳定网络的应用,比如本地工具、游戏内 NPC、以及需要断网可用的行业软件。开源免费,实际效果取决于设备性能和所选模型的大小。

NobodyWho相关导航

NobodyWho 暂无评论

none
暂无评论...