下面是目前主流 大语言模型 API 的付费情况总览：
🧠 一、主要大语言模型 API：是否付费对比
| 提供方 | 模型 | 是否免费 | 限制 / 说明 |
|---|---|---|---|
| OpenAI | GPT-3.5 / GPT-4 / GPT-4o | ❌ 付费为主 | 有免费额度（如 ChatGPT 免费版），API 调用大多需付费 |
| Anthropic | Claude 2 / Claude 3 | ❌ 付费为主 | API 使用需订阅（如通过 Amazon Bedrock / Claude 官网） |
| Gemini Pro / 1.5 | ✅（有限）/ ❌ | 有免费层（限速），API 商业化使用需付费 | |
| Meta | LLaMA 2 / LLaMA 3 | ✅ 开源免费 | 模型本身免费，但托管/推理费用另计（如用 AWS/GCP） |
| Mistral | Mistral / Mixtral | ✅ 开源免费 | 模型开放，API 接入商（如 HuggingFace）可能收费 |
| Cohere | Command R | ❌ 付费为主 | 提供免费额度，API 商业化收费 |
| Open-Source 自托管 | LLaMA / Mistral / RWKV 等 | ✅ 免费 | 模型和API都可自己部署，零成本但需计算资源 |
| Hugging Face | Transformers / Inference API | ✅ / ❌ | 免费模型下载，推理API免费有调用限制，商用或大流量需订阅 |
💰 二、典型付费 API 示例
1. OpenAI
curl https://api.openai.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{
"model": "gpt-4",
"messages": [{"role": "user", "content": "你好"}]
}'
GPT-4o 单次调用价格（截至 2025）：$0.005-$0.01 / 1K tokens
免费额度：ChatGPT（免费版使用 GPT-3.5）
2. Google Gemini API
免费开发计划有速率和配额限制
商业级调用定价：
Gemini 1.5 Flash：$0.000125/token（输入）
Gemini 1.5 Pro：$0.0005/token（输入）
3. Anthropic Claude
API 接入通过官网或 Amazon Bedrock，价格与 OpenAI 类似
Claude 3 Opus 比 GPT-4 更强但更贵，约 $0.03/token（输出）
🆓 三、免费可用的开源 LLM 模型（推荐）
| 模型 | 特点 | 推荐部署方式 |
|---|---|---|
| LLaMA 2 / 3 | Meta 出品，效果强 | 使用 text-generation-webui 或 HuggingFace |
| Mistral / Mixtral | 高性价比，小模型快 | Docker 部署或 HuggingFace Spaces |
| Yi / InternLM / Qwen | 中文效果优秀 | 自建推理服务（如 vLLM, FastChat） |
🧩 总结：什么是“付费”的？
✅ 模型是开源的 ≠ API 是免费的
✅ 如果你自己部署模型，本地使用 0 成本
❌ 如果调用别人的 API 云服务（OpenAI、Claude、Gemini），则通常需要 按 token 或调用次数付费
如何用免费的大语言模型开发项目，一些 部署方法 或 API 替代方案（例如 vLLM + Hugging Face 模型），搭建开源模型 API ？
好的，我们来一步步搭建一个 免费且功能强大的大语言模型 API 接口，你可以用来替代 OpenAI 或其他付费服务。本方案基于开源模型（如 LLaMA、Mistral、Qwen）+ 高性能推理引擎 vLLM，在 Linux 上部署。
✅ 一、系统前提
操作系统：Linux (推荐 Ubuntu 20.04/22.04)
Python 版本：>=3.8
显卡支持：NVIDIA GPU + CUDA 11+（可选，CPU 也能运行但较慢）
推荐显卡：至少 8GB 显存（如 RTX 3060 以上）
🚀 二、安装 vLLM 并部署模型 API
1️⃣ 安装 Python 环境
sudo apt update
sudo apt install python3-pip python3-venv git -y
python3 -m venv llm-env
source llm-env/bin/activate
2️⃣ 安装 vLLM
pip install --upgrade pip
pip install vllm
3️⃣ 下载开源大语言模型（如 Qwen 1.5, Mistral, LLaMA3）
以阿里巴巴的中文模型 Qwen1.5-7B-Chat 为例：
# 需要先登录 huggingface
huggingface-cli login
# 运行 API 接口（模型会自动下载）
python3 -m vllm.entrypoints.openai.api_server \
--model Qwen/Qwen1.5-7B-Chat \
--port 8000
🔁 可替换为任何 HuggingFace 上支持的模型，如：
mistralai/Mistral-7B-Instruct-v0.2
meta-llama/Meta-Llama-3-8B-Instruct
baichuan-inc/Baichuan2-7B-Chat
🔌 三、模拟 OpenAI API 调用方式（兼容 openai.ChatCompletion.create()）
你现在可以像这样调用自己的 LLM API：
import openai
openai.api_key = "EMPTY" # 不需要真实密钥
openai.api_base = "http://localhost:8000/v1"
response = openai.ChatCompletion.create(
model="Qwen/Qwen1.5-7B-Chat",
messages=[
{"role": "user", "content": "你好，请写一首唐诗。"}
]
)
print(response['choices'][0]['message']['content'])
📦 四、支持模型列表推荐
| 模型名称 | 平台 | 特点 |
|---|---|---|
Qwen1.5-7B-Chat |
HuggingFace | 中文强、速度快 |
mistralai/Mistral-7B-Instruct-v0.2 |
HuggingFace | 英文强、轻量级 |
meta-llama/Meta-Llama-3-8B-Instruct |
Meta | 英文通用最优 |
THUDM/chatglm3-6b |
中文推荐 | 低显卡也能跑 |
🧠 五、可选增强：前端 / Web UI（可选）
Open WebUI：轻量美观的网页界面，兼容 OpenAI 接口
Text Generation Web UI：更高级、支持模型切换
FastChat：也支持 OpenAI API 和 Web Chat 界面
📘 六、下一步建议
用 Nginx 反向代理模型 API，发布到公网
加入 Web UI 或 Web 服务（比如 Flask、FastAPI）
如果你没有 GPU，也可以部署量化模型（如 GGUF）+
llama.cpp