Nainstalujte své SDK
Začněte instalací oficiální knihovny pro váš jazyk. Podporujeme standardní balíčky SDK OpenAI používané většinou vývojářů. Nainstalujte balíček přes terminál, abyste byli připraveni na další kroky.
Nastavte základní URL a klíč
Nasměrujte klienta na naši koncovou adresu a nastavte své přihlašovací údaje. Použijte https://api.openrouterlimits.com/v1 jako vaši základní URL. Nahraďte YOUR_API_KEY pomocí klíče, který jste vygenerovali na stránce Získat API klíč. Toto nastavení funguje s jakýmikoli OpenAI-kompatibilními klienty změnou base_url a API klíče.
Odeslat své první dokončení
Odeslat požadavek na generování textu. Použijte ID modelu uncensored k přístupu k našemu vyladěnému modelu s otevřenými váhami. Model neodepírá zákonné použití pro dospělé nebo kontroverzní témata. Pošlete požadavek POST na /v1/chat/completions vašimi zprávami.
curl https://api.openrouterlimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process 5000 records in under 2 seconds"}]
}'
Zvládněte streamované odpovědi
Povolte streamování pro příjem tokenů v reálném čase. Nastavte stream na true v těle požadavku. Obdržíte Server-Sent Events (SSE) obsahující částečný text. Poslední část zahrnuje údaje o spotřebě tokenů pro fakturaci.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Použijte nástroje a režim JSON
Integrujte volání funkcí nebo přísné výstupy JSON. Použijte tools parameter pro volání funkcí. Nastavte response_format na {"type": "json_object"} pro režim JSON. Podporované parametry zahrnují temperature, top_p, stop, seed, presence_penalty, a frequency_penalty.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterlimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Sledujte využití tokenů
Sledujte své využití a řešte chyby graceful. Máte 300 požadavků za minutu a 8 souběžných požadavků na klíč. Kontextové okno má 100,000 tokenů. Řešte chyby jako 401 (neplatný klíč), 402 (žádný kredit) a 429 (limit rychlosti). Chyby a odmítnutí jsou zdarma. Kredit nevyprší.
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterlimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)