AI gateway

Một endpoint chuẩn OpenAI cho nhiều model, trả tiền theo token bằng ví ZoCloud (VND, có hoá đơn VAT). Dùng được với mọi SDK hoặc công cụ hỗ trợ OpenAI (Python, JS, LangChain, n8n…): chỉ cần đổi base_url và dùng key của ZoCloud.

Thông số	Giá trị
Base URL	`https://api.zocloud.io/v1/ai`
Key	dạng `zcai_…`, tạo ở mục AI của tổ chức
Endpoint	`POST /chat/completions` (có streaming), `POST /embeddings`, `GET /models`

Danh sách model do ZoCloud mở. Nếu mục AI ghi "Chưa có model nào được mở.", gateway chưa có model để gọi.

Tạo key

Mục AI → Tạo key.
Nhập Tên (ứng dụng dùng key) và, nếu muốn, Hạn mức mỗi tháng (VND). Để trống nếu không giới hạn; vượt hạn mức thì request bị từ chối.
Bấm Tạo. Sao chép key ngay: ZoCloud không hiển thị lại.

Nên dùng mỗi ứng dụng một key để theo dõi chi phí và thu hồi riêng. Đặt key vào biến môi trường của service (ví dụ OPENAI_API_KEY), không ghi vào code.

Thu hồi một key: ứng dụng đang dùng key đó ngừng gọi được ngay.

Ví dụ

Python

from openai import OpenAI

client = OpenAI(base_url="https://api.zocloud.io/v1/ai", api_key="zcai_...")
r = client.chat.completions.create(
    model="TÊN_MODEL",
    messages=[{"role": "user", "content": "Xin chào"}],
)
print(r.choices[0].message.content)

Node.js

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.zocloud.io/v1/ai",
  apiKey: process.env.OPENAI_API_KEY, // zcai_...
});

const stream = await client.chat.completions.create({
  model: "TÊN_MODEL",
  messages: [{ role: "user", content: "Xin chào" }],
  stream: true,
});
for await (const chunk of stream) process.stdout.write(chunk.choices[0]?.delta?.content ?? "");

Embeddings

e = client.embeddings.create(model="TÊN_MODEL_EMBEDDING", input=["văn bản cần nhúng"])

curl

curl https://api.zocloud.io/v1/ai/chat/completions \
  -H "Authorization: Bearer zcai_..." \
  -H "Content-Type: application/json" \
  -d '{"model":"TÊN_MODEL","messages":[{"role":"user","content":"Xin chào"}]}'

Thay TÊN_MODEL bằng tên trong Bảng giá trên portal, hoặc lấy từ GET https://api.zocloud.io/v1/ai/models.

Model và giá

Mục AI → Bảng giá (gồm VAT): mỗi model có giá Vào (token gửi đi) và Ra (token nhận về), tính cho mỗi 1 triệu token, bằng VND, đã gồm VAT. Giá có thể thay đổi theo giá của nhà cung cấp; luôn xem bảng giá trên portal.

Tính tiền và giới hạn

Mỗi request được ghi lại; ZoCloud gộp và trừ ví khoảng mỗi phút.
Ví xuống dưới mức tối thiểu: request bị từ chối với HTTP 402. Nạp tiền để gọi tiếp.
Key vượt Hạn mức mỗi tháng: request bị từ chối với HTTP 429.
Gọi model không có: lỗi ai.model_not_found.
Chi phí AI trong tháng được gộp thành một dòng "Sử dụng AI gateway tháng …" trên bảng kê và hoá đơn (Thanh toán).

Theo dõi sử dụng

Danh sách Key: lần dùng gần nhất và chi phí "Tháng này …".
Sử dụng 30 ngày: theo ngày và model, số request, token vào/ra và chi phí.

Dùng từ AI agent

Qua zo MCP: ai_models (model và giá), create_ai_key (tạo key, có thể kèm hạn mức), ai_usage. Xem zo CLI và MCP server.