🧠大模型入门与实战

① OpenAI 兼容（最省事）

绝大多数国内厂商都提供 OpenAI 兼容端点。用官方 openai SDK，只改 base_url 和 model，代码几乎不用动。

用 curl 时把地址换成 {各厂商 base_url}/chat/completions，请求头带上 Content-Type: application/json 和厂商控制台给的鉴权头即可，请求体与 Python 示例完全一致。

# Python：同一份代码切换厂商
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_KEY",
    base_url="https://api.deepseek.com",   # 换成别家即可
)
resp = client.chat.completions.create(
    model="deepseek-chat",
    messages=[{"role": "user", "content": "你好"}],
)
print(resp.choices[0].message.content)

② 原生协议（需官方 SDK）

Claude（Messages API）、Gemini（generateContent）与 OpenAI 格式不兼容，必须用各家 SDK 或做适配层。

from anthropic import Anthropic

client = Anthropic(api_key="YOUR_KEY")
msg = client.messages.create(
    model="claude-sonnet-4",
    max_tokens=1024,
    messages=[{"role": "user", "content": "你好"}],
)
print(msg.content[0].text)

要点：system 是独立参数而非 message；返回是 content 数组；max_tokens 必填。

③ 本地部署（数据不出网）

用 Ollama / vLLM / llama.cpp 跑开放权重模型，本地起一个 OpenAI 兼容服务，之后调用方式与云端完全一致。

# Ollama：拉模型 + 启动（自带 OpenAI 兼容端点 :11434/v1）
ollama pull qwen2.5:7b
ollama run qwen2.5:7b

# vLLM：高并发服务端
vllm serve Qwen/Qwen2.5-7B-Instruct --port 8000

# 两种方式都能直接用 openai SDK 调用
client = OpenAI(api_key="none", base_url="http://localhost:8000/v1")