Szybki start: Zintegruj API bez cenzury

Zainstaluj swój SDK

Zacznij od zainstalowania oficjalnej biblioteki dla Twojego języka. Wspieramy standardowe pakiety SDK OpenAI używane przez większość programistów. Zainstaluj pakiet przez terminal, aby przygotować się do kolejnych kroków.

Skonfiguruj bazowy adres URL i klucz

Wskaż klienta na nasz punkt końcowy i ustaw swoje dane logowania. Użyj https://api.openrouterlimits.com/v1 jako swój bazowy adres URL. Zastąp YOUR_API_KEY kluczem wygenerowanym na stronie Pobierz klucz API. Konfiguracja ta działa z dowolnym klientem kompatybilnym z OpenAI poprzez zmianę base_url i klucza API.

Wyślij swoje pierwsze uzupełnienie

Zrób żądanie, aby wygenerować tekst. Użyj identyfikatora modelu uncensored do dostępu do naszego dostosowanego modelu open-weight. Model nie odrzuca legalnych tematów dla dorosłych ani tematów kontrowersyjnych. Wyślij żądanie POST do /v1/chat/completions z Twoimi wiadomościami.

Copycurl https://api.openrouterlimits.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Process 5000 records in under 2 seconds"}]
  }'

Obsługa odpowiedzi strumieniowych

Włącz strumieniowanie, aby otrzymywać tokeny w czasie rzeczywistym. Ustaw stream do true w ciele żądania. Otrzymasz zdarzenia wysyłane serwerowo (SSE) zawierające częściowy tekst. Ostatni fragment zawiera zużycie tokenów do rozliczeń.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Używaj narzędzi i trybu JSON

Zintegruj wywoływanie funkcji lub ścisłe wyjścia JSON. Użyj tools parametr wywoływania funkcji. Ustaw response_format do {"type": "json_object"} dla trybu JSON. Obsługiwane parametry obejmują temperature, top_p, stop, seed, presence_penalty, a także frequency_penalty.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openrouterlimits.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Monitoruj zużycie tokenów

Śledź swoje użycie i obsługuj błędy w sposób graceful. Otrzymujesz 300 żądań na minutę i 8 równoległych żądań na klucz. Okno kontekstowe ma 100,000 tokenów. Obsługuj błędy takie jak 401 (nieprawidłowy klucz), 402 (brak kredytu) i 429 (limit szybkości). Błędy i odrzucenia są darmowe. Kredyt nigdy nie wygasa.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openrouterlimits.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)