Platform for simplified ML model deployment, scaling, and inference via a unified API.
什么是WizModel?
WizModel是一个旨在简化机器学习模型的部署和扩展的平台。它提供了一个统一的API用于机器学习推理,让用户能够在不需要 extensive coding 的情况下运行模型。WizModel还提供了像Cog2这样的工具,将模型打包成适合生产的容器,并自动生成可扩展的API服务器,处理依赖关系、GPU配置和扩展。用户还可以探索和使用社区共享的数千个现有模型。
如何使用 WizModel?
要使用WizModel,您可以通过其API使用现有模型,或使用Cog2部署自己的模型。部署自己的模型时,需要在cog.yaml文件中定义环境,在predict.py文件中指定预测逻辑,然后使用Cog2命令构建、推送和运行模型。您还可以使用他们的
AI工具生成cog.yaml文件。最后,您可以使用Python调用REST API在云中运行该模型。
WizModel 的核心功能
统一的机器学习推理API
Cog2用于将模型打包成适合生产的容器
自动API生成和扩展
访问数千个现有模型
按秒计费
WizModel