Cài đặt SDK của bạn
Bắt đầu bằng cách cài đặt thư viện chính thức cho ngôn ngữ của bạn. Chúng tôi hỗ trợ các gói SDK OpenAI tiêu chuẩn được hầu hết nhà phát triển sử dụng. Cài đặt gói qua terminal của bạn để chuẩn bị cho các bước tiếp theo.
Cấu hình URL cơ sở và khóa
Điểm client của bạn đến điểm cuối của chúng tôi và đặt thông tin xác thực của bạn. Sử dụng https://api.openrouterlimits.com/v1 làm URL cơ sở. Thay thế YOUR_API_KEY với khóa bạn đã tạo trên trang Lấy khóa API. Cấu hình này hoạt động với bất kỳ máy khách tương thích OpenAI nào bằng cách thay đổi base_url và khóa API.
Gửi lần hoàn tất đầu tiên của bạn
Thực hiện yêu cầu để tạo văn bản. Sử dụng ID mô hình uncensored để truy cập mô hình trọng lượng mở đã được tinh chỉnh của chúng tôi. Mô hình không từ chối các chủ đề người lớn hợp pháp hoặc gây tranh cãi. Gửi yêu cầu POST đến /v1/chat/completions với các thông điệp của bạn.
curl https://api.openrouterlimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process 5000 records in under 2 seconds"}]
}'
Xử lý các phản hồi streaming
Bật chế độ streaming để nhận các token theo thời gian thực. Đặt stream để true trong thân yêu cầu của bạn. Bạn sẽ nhận được các Server-Sent Events (SSE) chứa văn bản từng phần. Chunk cuối cùng bao gồm thông tin sử dụng token để tính phí.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Sử dụng công cụ và chế độ JSON
Tích hợp gọi hàm hoặc đầu ra JSON nghiêm ngặt. Sử dụng tools tham số cho gọi hàm. Đặt response_format để {"type": "json_object"} cho chế độ JSON. Các tham số được hỗ trợ bao gồm temperature, top_p, stop, seed, presence_penalty, và frequency_penalty.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterlimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Theo dõi việc sử dụng token
Theo dõi mức sử dụng và xử lý lỗi một cách khéo léo. Bạn có 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Cửa sổ ngữ cảnh là 100,000 token. Xử lý các lỗi như 401 (khóa không hợp lệ), 402 (không có tín dụng) và 429 (vượt quá giới hạn tốc độ). Lỗi và từ chối là miễn phí. Tín dụng không bao giờ hết hạn.
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterlimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)