SDK をインストールします
お好みの言語用の公式ライブラリをインストールすることから始めましょう。当社は、ほとんどの開発者が使用する標準的なOpenAI SDKパッケージをサポートしています。ターミナル経由でパッケージをインストールし、次のステップの準備をしましょう。
ベースURLとキーを設定
クライアントをエンドポイントに接続し、認証情報を設定してください。使用 https://api.openrouterlimits.com/v1 ベースURLとして使用します。 YOUR_API_KEY Get API keyページで生成したキーを使用してください。base_urlとAPIキーを変更することで、任意のOpenAI互換クライアントでこのセットアップは動作します。
最初の補完
テキストを生成するためのリクエストを送信します。モデルIDは uncensored チューニング済みのオープンウェイトモデルにアクセスするには。このモデルは、法的な成人向けコンテンツや論争の的となるトピックに対して拒否を行いません。POSTリクエストを以下に送信してください: /v1/chat/completions メッセージを使用します。
curl https://api.openrouterlimits.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Process 5000 records in under 2 seconds"}]
}'
ストリーミングレスポンスの処理
ストリーミングを有効にして、トークンをリアルタイムで受信します。設定 stream に true リクエストボディに指定します。部分的なテキストを含むServer-Sent Events (SSE)を受信します。最後のチャンクには、課金用のトークン使用量が含まれます。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
ツールとJSONモードを使用
関数呼び出しまたは厳格なJSON出力を統合します。次を使用してください tools 関数呼び出しのためのパラメータ。設定 response_format に {"type": "json_object"} for JSON mode. Supported parameters include temperature, top_p, stop, seed, presence_penalty、および frequency_penalty.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openrouterlimits.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
トークン使用量を監視します
使用状況を追跡し、エラーを適切に処理します。1分あたり300リクエスト、キーあたり並列8リクエストが利用可能です。コンテキストウィンドウは100,000トークンです。401(無効なキー)、402(クレジットなし)、429(レートリミット)などのエラーを処理します。エラーと拒否は無料です。クレジットは期限切れになりません。
from openai import OpenAI
client = OpenAI(base_url="https://api.openrouterlimits.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)