Asenna SDK
Aloita asentamalla kielen virallinen kirjasto. Tukemme useimpien kehittäjien käyttämiä standardia OpenAI-SDK-paketteja. Asenna paketti terminaalissa valmistautuaksesi seuraaviin vaiheisiin.
Määritä base URL ja avain
Ohjaa asiakasohjelmistosi päätepisteeseemme ja määritä kirjautumistietosi. Käytä https://api.openrouterlimits.com/v1 pohja-URL:ksi. Korvaa YOUR_API_KEY sivulla "Hanki API-avain" luomallasi avaimella. Tämä asetus toimii minkä tahansa OpenAI-yhteensopivan asiakkaan kanssa muuttamalla base_url- ja API-avainarvoja.
Lähetä ensimmäinen täydennys
Tee pyyntö tekstigenerointiin. Käytä mallitunnusta uncensored päästäksesi käsiksi hienosäädettyyn avoimen painotuksen malliimme. Malli ei hylkää laillista aikuis- tai kiistanalaista sisältöä. Lähetä POST-pyyntö osoitteeseen /v1/chat/completions viestilläsi.
curl https://api.openrouterlimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process 5000 records in under 2 seconds"}]
}'
Käsittele streamausvastaukset
Ota käyttöön streamaus, jotta saat tokenit vastaanotettua reaaliajassa. Aseta stream vastaan true pyyntöruumiussasi. Saat Server-Sent Events (SSE) -viestejä, jotka sisältävät osittaista tekstiä. Viimeinen lohko sisältää tokenien käytön laskutusta varten.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Käytä työkaluja ja JSON-tilaa
Integroi toimintokutsut tai tiukat JSON-tulokset. Käytä tools parametri toimintokutsuihin. Aseta response_format vastaan {"type": "json_object"} JSON-tila. Tuetut parametrit sisältävät temperature, top_p, stop, seed, presence_penalty, ja frequency_penalty.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterlimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Seuraa tokenien käyttöä
Seuraa käyttöä ja käsittele virheet joustavasti. Saat 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä avainta kohden. Kontekstikkosi on 100 000 tokenia. Käsittele virheet kuten 401 (virheellinen avain), 402 (ei krediittiä) ja 429 (nopeusraja). Virheet ja hylkäykset ovat ilmaisia. Krediitti vanhenee.
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterlimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)