
novita.ai
Novita AI:具有模型 API、GPU 实例和无服务器 GPU 的 AI 云。
Roofline 做的是边缘 AI 的部署工具链,目标是把模型顺利塞进各种芯片里跑起来。
产品分三件。SDK 基于他们自研的新一代 AI 编译器,负责一站式部署;Runtime 是 SoC 级的推理引擎,跨设备统一;性能仪表盘用来评估和追踪真实场景下的表现,而不是只看实验室数字。
支持的应用类型覆盖大模型、视觉、语言、音频和雷达,模型侧能看到 LiquidAI 的 LFM2.5 系列、谷歌 Gemma3-270M、Mistral-7B 等,且每个都标注了在 CPU、GPU、NPU 上的可用性。
面向两类客户:做产品的厂商,以及做硬件和 IP 的厂商,官方主打的价值是缩短上市时间和完整的 SoC 使能。网站提供中英日多语言。
这是一款偏底层的工程工具,普通开发者用不上,做端侧硬件的团队会明白它省的是哪部分力气。








Roofline