Twigg 是一个面向开发者的有状态 LLM 接口服务。普通的大模型 API 是无状态的,每次请求都得把完整对话历史重新发一遍,上下文管理、截断、切换模型全要自己写。Twigg 把这部分接了过去。

用法很简单:创建一个对话,之后只发送“下一条事件”,上下文由 Twigg 在服务端存储和拼装,并按目标模型的窗口自动裁剪。对话数据存在 Twigg 这边而不是某一家模型厂商那里,所以可以在对话进行到一半时切换模型,没有厂商绑定。

提供 OpenAPI 文档和专门给 AI 读的 llms.txt,适合在做聊天产品、Agent 应用、需要在多家模型之间灵活切换的开发团队。

Twigg相关导航

Twigg 暂无评论

none
暂无评论...