クイックスタート: obliteratedモデルの統合

インストールと SDK のセットアップ

お好みのライブラリをインストールし、ベース URL を当社のインフラストラクチャに向けて設定します。

pip install openai

ベースURLを https://api.obliteratedmodel.com/v1 APIキーを挿入します。これは標準仕様に準拠する任意のクライアントで動作します。

Googleまたはメールでサインアップした後、ダッシュボードからキーを取得します。検証に電話番号は必要ありません。

キーが有効であることを確認してからリクエストを送信してください。

• SDKをインストール。
• ベースURL。
• APIキーを入力してください。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

/v1/chat/completions エンドポイント

チャット完了エンドポイントにPOSTリクエストを送信して、テキスト応答を受信します。

モデル識別子 uncensored ペイロードに記述します。エンドポイントは次のような標準パラメータを受け入れます。 temperature および top_p.

入力トークンは100万あたり$0.15で課金され、出力トークンは100万あたり$0.50です。エラーはクレジットを消費しません。

Copycurl https://api.obliteratedmodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
  }'

ストリーミングレスポンスとトークン数

streamをtrueに設定してストリーミングを有効にする stream: true リクエストボディに記述します。

APIはServer-Sent Eventsを介してチャンクを返します。トークン使用の詳細はストリームの最終チャンクに表示されます。

出力長を制御するための最大トークン制限を設定します。値を指定しない場合、デフォルトは2,048トークンです。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

関数呼び出しとJSONモード

JSONモードまたは関数呼び出しを使用してレスポンスを構成します。

設定 response_format に {"type": "json_object"} 厳密なJSON出力用。 tools 関数呼び出し機能のためのパラメータ。

これにより、厄介なテキストの解析なしで、アプリケーションへのプログラムmaticな統合が可能です。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

パラメータ: temperature、top_p、seed

標準的なサンプリングパラメータを使用してランダム性と再現性を制御します。

調整 temperature 創造性のために、 top_p ヌクレウスサンプリング用、および seed 決定論的な出力のため。

これらのパラメータはuncensoredモデルがテキストを生成する方法に影響します。使用 stop シーケンスで生成を早期に停止します。

存在度ペナルティと頻度ペナルティは、長いコンテキストでの反復を減らすのに役立ちます。

制限とエラーの処理

リクエストレートとクレジット残高を監視して、中断を回避してください。

キーごとに1分あたり300リクエストに制限してください。同時に8つのリクエストを実行できます。

APIキーの有効性を確認して401エラーを処理します。暗号通貨でチャージして402エラーを解決します。

指数関数的バックオフを実装して429レート制限エラーを管理します。コンテキストウィンドウは、入力と完了を合わせて100,000トークンをサポートします。

リクエストボディは8 MBを超えてはなりません。