GPUStack

分类:model-platform 评分:4.1 访问量:51,106 访问官网 →

企业级 AI 基础设施平台,官方称可在任意硬件上部署、治理和扩展大模型与 GPU 算力,支持异构显卡、自动匹配推理引擎、分布式推理,并提供标准接口与配额管理。

立即使用该工具