Một API cho mọi LLM

AnyRouter đặt một API tương thích OpenAI trước mọi mô hình nó phục vụ — hôm nay 170+. Bạn gửi cùng hình request đã gửi OpenAI, và model id quyết định nhà cung cấp nào thực sự chạy. Không SDK theo nhà cung cấp, không scheme auth thứ hai, không xử lý lỗi riêng: một base URL, một key, mọi mô hình.

Cùng bề mặt cũng nói các dialect phổ biến khác. Chat ở /chat/completions (kiểu OpenAI), client Claude có thể đánh /messages (kiểu Anthropic), Responses API mới hơn của OpenAI ở /responses, embeddings ở /embeddings. Cùng tài khoản, cùng key, cùng audit log.

Mọi mô hình địa chỉ provider/model, nên đổi mô hình là giá trị config chứ không phải dự án tích hợp. Chỉ SDK OpenAI chuẩn vào AnyRouter và duyệt cả catalog bằng một client:

from openai import OpenAI

client = OpenAI(base_url="https://anyrouter.dev/api/v1", api_key="sk-ar-v1-...")

for model in ["openai/gpt-5.5", "anthropic/claude-opus-4-8", "google/gemini-2.5-pro", "z-ai/glm-5.2"]:
  resp = client.chat.completions.create(
      model=model,
      messages=[{"role": "user", "content": "Say hello"}],
      stream=True,
  )
  for chunk in resp:
      print(chunk.choices[0].delta.content or "", end="")

Streaming y như OpenAI — truyền stream=True và đọc delta. Vì hợp đồng là API chuẩn, không lock-in: cùng code chỉ thẳng lại bất kỳ nhà cung cấp nếu bạn rời đi.

Một model id có thể được phục vụ bởi hơn một nhà cung cấp upstream. Khi primary bị rate-limit, lỗi, hoặc down, AnyRouter failover sang upstream khỏe tiếp theo của mô hình đó — một 429 không còn kẹt agent giữa việc. Bạn cũng có thể tự lái bằng provider preferences và routing preset đã lưu, để request ưu tiên dung lượng rẻ hơn, pin một nhà cung cấp, hoặc fallback theo thứ tự chọn.

• Failover tự động — nhiều upstream mỗi mô hình, cái không khỏe bị cách ly.
• Provider preferences — prefer, pin, hoặc sắp thứ tự upstream request được dùng.
• Routing presets — lưu chính sách routing một lần và tái dùng theo tên.
• Streaming và tools — SSE delta và function calling đi xuyên không đổi.

Duyệt catalog đầy đủ trên /models, thử mô hình live ở /playground, đọc tham chiếu endpoint trong /docs. Nếu route trên key bạn đã trả, xem BYOK bên dưới — những cuộc gọi đó $0 markup.

• Mang key nhà cung cấp của bạn với $0 markup — /blog/vi/byok-bring-your-own-keys.
• Chỉ Claude Code, Codex, hoặc Cursor vào cùng endpoint — /blog/vi/coding-agents-one-gateway.
• Giữ OpenAI SDK, chỉ đổi base URL — /blog/vi/openai-api-alternative.