Telepítse az SDK-ját
Kezdje a hivatalos könyvtár telepítésével. Támogatjuk a legtöbb fejlesztő által használt szabványos OpenAI SDK csomagokat. Telepítse a csomagot a termináljával a következő lépésekre való felkészüléshez.
Alap URL és kulcs konfigurálása
Irányítsd a kliensedet a végpontunkra, és állítsd be a hitelesítő adataidat. Használd https://api.openrouterlimits.com/v1 alap URL-ként. Cseréld ki a YOUR_API_KEY a "API kulcs lekérése" oldalon generált kulccsal. Ez a beállítás bármely OpenAI-kompatibilis klienssel működik a base_url és az API kulcs módosításával.
Küldje el első kiegészítés
Kérés küldése szöveggeneráláshoz. Használja a modellazonosítót uncensored hangolt nyílt súlyú modellünkhöz. A modell nem utasítja el a törvényes felnőtt vagy vitatott témákat. Küldjön egy POST kérést a /v1/chat/completions az üzeneteivel.
curl https://api.openrouterlimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process 5000 records in under 2 seconds"}]
}'
Streamelő válaszok kezelése
A tokenok streamelése valós időben történő fogadását teszi lehetővé. Állítsa be a stream a true a kérés törzsében. Server-Sent Events (SSE) formátumban kapja vissza a részleges szöveget. Az utolsó darab tartalmazza a számlázáshoz szükséges tokenfelhasználást.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Használjon eszközöket és JSON módot
Integrálja a funkcióhívást vagy a szigorú JSON kimenetet. Használja a tools paraméter a függvényhíváshoz. Állítsa be response_format a {"type": "json_object"} JSON módhoz. A támogatott paraméterek közé tartoznak temperature, top_p, stop, seed, presence_penalty, és frequency_penalty.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterlimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Figyelje a tokenfelhasználást
Kövesse nyomon a felhasználást és kezelje a hibákat gracefully. Percenként 300 kérést és kulcsonként 8 párhuzamos kérést kap. A kontextusablak 100,000 token. Kezelje a hibákat, mint a 401 (érvénytelen kulcs), 402 (nincs hitel) és 429 (sebességkorlátozás). A hibák és az elutasítások ingyenesek. A hitel sosem jár le.
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterlimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)