Optimized Docker registry for faster ML model loading and reduced cold starts.
什么是Mystic Turbo Registry?
神秘涡轮注册表是一个自定义Docker注册表和containerd适配器,旨在显著加速ML模型的加载速度,提升至11.4倍,并减少冷启动时间高达90%。它是一个高性能的
AI模型加载器,使用Rust构建,以大幅降低ML模型的冷启动时间。
如何使用 Mystic Turbo Registry?
要使用神秘涡轮注册表,您可以参考示例,如加载SDXL(10GB Docker镜像)或Llama-70B(85GB Docker镜像)。网站提供基准测试和比较,以展示与传统方法相比的速度提升。
Mystic Turbo Registry 的核心功能
更快的ML模型加载
减少冷启动时间
优化的容器加载
以高性能的Rust构建
Mystic Turbo Registry