अपना SDK इंस्टॉल करें
अपनी भाषा के लिए आधिकारिक लाइब्रेरी इंस्टॉल करके शुरू करें। हम अधिकांश डेवलपर्स द्वारा उपयोग किए जाने वाले मानक OpenAI SDK पैकेजों का समर्थन करते हैं। अगले चरणों के लिए तैयार होने के लिए अपने टर्मिनल के माध्यम से पैकेज इंस्टॉल करें।
बेस URL और कुंजी कॉन्फ़िगर करें
अपने क्लाइंट को हमारे एंडपॉइंट की ओर निर्देशित करें और अपनी क्रेडेंशियल सेट करें। उपयोग करें https://api.openrouterlimits.com/v1 अपने बेस URL के रूप में। प्रतिस्थापित करें YOUR_API_KEY Get API key पेज पर आपने जो कुंजी उत्पन्न की है, उसके साथ। बेस_यूआरएल और API कुंजी को बदलकर यह सेटअप किसी भी OpenAI-compatible क्लाइंट के साथ काम करता है।
अपना पहला कंप्लीशन
टेक्स्ट जनरेट करने के लिए एक अनुरोध करें। मॉडल आईडी का उपयोग करें uncensored हमारे ट्यून्ड ओपन-वेट मॉडल तक पहुंचने के लिए। मॉडल कानूनी वयस्क या विवादास्पद विषयों को अस्वीकार नहीं करता है। एक POST अनुरोध भेजें /v1/chat/completions अपने संदेशों के साथ।
curl https://api.openrouterlimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process 5000 records in under 2 seconds"}]
}'स्ट्रीमिंग प्रतिक्रियाओं को हैंडल करें
स्ट्रीमिंग को सक्षम करें ताकि टोकन रियल-टाइम पर प्राप्त हो सकें। सेट stream को true अपने अनुरोध बॉडी में। आप आंशिक टेक्स्ट वाले सर्वर-संदेशित इवेंट्स (SSE) प्राप्त करेंगे। अंतिम चंक में बिलिंग के लिए टोकन उपयोग शामिल होता है।
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)टूल्स और JSON मोड का उपयोग करें
फंक्शन कॉलिंग या सख्त JSON आउटपुट एकीकृत करें। उपयोग करें tools फ़ंक्शन कॉलिंग के लिए पैरामीटर। सेट करें response_format को {"type": "json_object"} JSON मोड के लिए। समर्थित पैरामीटर में शामिल हैं temperature, top_p, stop, seed, presence_penalty, और frequency_penalty.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterlimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);टोकन उपयोग की निगरानी करें
उपयोग को ट्रैक करें और त्रुटियों को सहजता से हैंडल करें। आपको प्रति मिनट 300 अनुरोध और प्रति कुंजी 8 समवर्ती अनुरोध मिलते हैं। संदर्भ विंडो 100,000 टोकन की है। त्रुटियों को हैंडल करें जैसे 401 (अमान्य कुंजी), 402 (कोई क्रेडिट नहीं), और 429 (दर सीमा)। त्रुटियां और अस्वीकृतियां मुफ्त हैं। क्रेडिट कभी समाप्त नहीं होता।
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterlimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)