Установите ваш SDK
Начните с установки официальной библиотеки для вашего языка. Мы поддерживаем стандартные пакеты SDK OpenAI, используемые большинством разработчиков. Установите пакет через терминал, чтобы подготовиться к следующим шагам.
Настройте базовый URL и ключ
Направьте клиента на наш конечный пункт и настройте учетные данные. Используйте https://api.openrouterlimits.com/v1 в качестве базового URL. Замените YOUR_API_KEY с ключом, который вы сгенерировали на странице получения API-ключа. Эта настройка работает с любым клиентом, совместимым с OpenAI, путем изменения base_url и API-ключа.
Отправьте свое первое завершение
Отправить запрос для генерации текста. Используйте идентификатор модели uncensored для доступа к нашей настроенной open-weight модели. Модель не отказывает в законном взрослом или спорном контенте. Отправьте POST запрос на /v1/chat/completions с вашими сообщениями.
curl https://api.openrouterlimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process 5000 records in under 2 seconds"}]
}'
Обработка потоковых ответов
Включите потоковую передачу, чтобы получать токены в реальном времени. Установите stream для true в теле запроса. Вы получите события серверных событий (SSE), содержащие частичный текст. Последний фрагмент включает использование токенов для биллинга.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Используйте инструменты и режим JSON
Подключите вызов функций или строгий вывод JSON. Используйте tools параметр для вызова функций. Установите response_format для {"type": "json_object"} для режима JSON. Поддерживаемые параметры включают temperature, top_p, stop, seed, presence_penalty, и frequency_penalty.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterlimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Отслеживайте использование токенов
Отслеживайте использование и обрабатывайте ошибки gracefully. Вы получаете 300 запросов в минуту и 8 одновременных запросов на ключ. Контекстное окно составляет 100,000 токенов. Обрабатывайте ошибки, такие как 401 (неверный ключ), 402 (нет кредита) и 429 (превышение лимита скорости). Ошибки и отказы бесплатны. Кредит никогда не истекает.
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterlimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)