AI 全流程指南
从模型开发到应用落地的全环节工具/平台
CC Switch
轻量级桌面AI模型网关与切换工具,支持一键切换多种AI模型,自动协议转换,让Claude Code等AI编程工具可本地调
Bifrost
Go | 超低延迟(~11µs),自动故障切换,P2P 集群,支持 MCP,高性能企业级网关
New API
New API 是 One API 的增强分支,统一 AI 模型管理与分发网关,支持将各类 LLM 互转为 OpenAI
One API
One API 是国内最流行的开源 LLM API 管理与分发系统,统一适配 OpenAI、Claude、Gemini、
LiteLLM
Python | GitHub 52K+ Stars,统一 OpenAI 格式调用 100+ 供应商,支持虚拟 Key、
vllm
vLLM 是加州大学伯克利分校开源的 LLM 推理与部署引擎,首创 PagedAttention 技术,实现高吞吐、低延
llama
llama.cpp 是 ggml-org 开源的纯 C/C++ LLM 推理引擎,无需 GPU 即可在本地运行 AI 大