开源权重、模型社区与本地推理工具,适合自己部署。
开源模型与数据集的社区平台,可以检索权重、试用推理并分享微调成果,做模型实验的开发者常在此找素材。
开源模型社区,汇集多种预训练模型与数据集,适合开发者在这里寻找、试用并下载模型,用于自己的应用开发。
本地知识库加多模型对话,适合把文档接进模型。
本地多模型桌面客户端,可接不同模型与自己的密钥。
多模型桌面客户端,支持本地与云端模型切换。
在本地跑大模型的 C++ 实现,适合离线与轻量部署。
在本地运行大模型的桌面客户端,图形界面里下载并切换模型,适合想离线试用模型又不想写代码的人。
用一条命令在本机拉起开源大模型并对外提供接口,适合做本地推理验证与不方便出网的数据试验。
可自托管的模型网页界面,适合团队内部统一入口。
面向大模型推理的部署引擎,通过批处理与显存优化提升吞吐,适合需要自建接口服务的工程团队。
下载 Orbit
常驻桌面效率工具