近日,TabbyML 推出了一款自托管 AI 编程助手,名为 Tabby。这款软件作为 GitHub Copilot 的开源/自托管替代方案,提供了以下特性:

  • 不需要数据库管理系统或云服务的自包含型软件
  • 提供 Web UI 用于模型可视化和配置 MLOps。
  • OpenAPI 接口,易于与现有基础设施集成(如 Cloud IDE)。
  • 支持消费级 GPU(使用各种优化的 FP-16 权重加载)。

想要了解更多 TabbyML 和 Tabby 的信息,请访问他们的 GitHub 页面