Встановіть ваш SDK
Почніть із встановлення офіційної бібліотеки для вашої мови. Ми підтримуємо стандартні пакети SDK OpenAI, які використовують більшість розробників. Встановіть пакет через термінал, щоб підготуватися до наступних кроків.
Налаштуйте базовий URL та ключ
Направте клієнта на наш кінцевий пункт і встановіть свої облікові дані. Використовуйте https://api.openrouterlimits.com/v1 як вашу базову URL-адресу. Замініть YOUR_API_KEY за допомогою ключа, який ви згенерували на сторінці Отримати API-ключ. Ця конфігурація працює з будь-яким OpenAI-сумісним клієнтом шляхом зміни base_url та API-ключа.
Надішліть своє перше завершення
Зробіть запит для генерації тексту. Використовуйте ідентифікатор моделі uncensored для доступу до нашої налаштованої моделі з відкритими вагами. Модель не відмовляє в законних дорослих або суперечливих темах. Надішліть POST-запит на /v1/chat/completions з вашими повідомленнями.
curl https://api.openrouterlimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process 5000 records in under 2 seconds"}]
}'
Обробка потокових відповідей
Увімкніть потокову передачу, щоб отримувати токени в реальному часі. Встановіть stream до true у тілі запиту. Ви отримаєте події Server-Sent Events (SSE), що містять частковий текст. Останній фрагмент включає використання токенів для билінгу.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Використовуйте інструменти та режим JSON
Інтегруйте виклик функцій або суворий вивід JSON. Використовуйте tools параметр для виклику функцій. Встановіть response_format до {"type": "json_object"} для режиму JSON. Підтримувані параметри включають temperature, top_p, stop, seed, presence_penalty, а також frequency_penalty.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterlimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Моніторте використання токенів
Відстежуйте використання та обробляйте помилки плавно. Ви отримуєте 300 запитів за хвилину та 8 одночасних запитів на ключ. Контекстне вікно становить 100,000 токенів. Обробляйте помилки, такі як 401 (недійсний ключ), 402 (немає кредиту) та 429 (перевищено ліміт швидкості). Помилки та відмови безкоштовні. Кредит ніколи не закінчується.
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterlimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)