क्विकस्टार्ट: obliterated मॉडल को इंटीग्रेट करना

इंस्टॉलेशन और SDK सेटअप

अपनी पसंदीदा लाइब्रेरी इंस्टॉल करें और बेस यूआरएल को हमारी इंफ्रास्ट्रक्चर की ओर पॉइंट करने के लिए कॉन्फ़िगर करें।

pip install openai

बेस URL को सेट करें https://api.obliteratedmodel.com/v1 और अपनी API कुंजी डालें। यह किसी भी क्लाइंट के साथ काम करता है जो मानक स्पेस का पालन करता है।

Google या ईमेल से साइनअप करने के बाद डैशबोर्ड से अपनी कुंजी प्राप्त करें। सत्यापन के लिए फोन नंबर की आवश्यकता नहीं है।

सुनिश्चित करें कि आपकी कुंजी सक्रिय है।

• SDK इंस्टॉल करें।
• बेस URL सेट करें।
• अपनी API कुंजी डालें।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

/v1/chat/completions एंडपॉइंट

टेक्स्ट रिस्पॉन्स प्राप्त करने के लिए चैट कंप्लीशन्स एंडपॉइंट पर एक POST रिक्वेस्ट भेजें।

मॉडल पहचानकर्ता का उपयोग करें uncensored आपके पेलोड में। अंतर्बिंदु मानक पैरामीटर जैसे स्वीकार करता है temperature और top_p.

इनपुट टोकन 1 मिलियन प्रति $0.15 पर चार्ज किए जाते हैं, जबकि आउटपुट टोकन 1 मिलियन प्रति $0.50 पर खर्च होते हैं। त्रुटियां क्रेडिट्स का उपभोग नहीं करती हैं।

Copycurl https://api.obliteratedmodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
  }'

स्ट्रीमिंग रिस्पॉन्स और टोकन काउंट्स

सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true अपने अनुरोध बॉडी में।

API सर्वर-सेंट इवेंट्स के माध्यम से चंक लौटाता है। टोकन उपयोग का विवरण स्ट्रीम के अंतिम चंक में दिखाई देता है।

आउटपुट की लंबाई को नियंत्रित करने के लिए एक अधिकतम टोकन सीमा सेट करें। यदि आप कोई मान निर्दिष्ट नहीं करते हैं, तो डिफ़ॉल्ट 2,048 टोकन होता है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

फंक्शन कॉलिंग और JSON मोड

अपने उत्तरों को JSON मोड या फ़ंक्शन कॉलिंग का उपयोग करके संरचित करें।

सेट करें response_format को {"type": "json_object"} कठोर JSON आउटपुट के लिए। उपयोग करें tools फ़ंक्शन कॉलिंग क्षमताओं के लिए पैरामीटर।

इससे आपके एप्लिकेशन में प्रोग्रामेटिक इंटीग्रेशन संभव होता है बिना अस्तव्यस्त टेक्स्ट को पार्स किए।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

पैरामीटर: तापमान, top_p, और सीड

मानक सैंपलिंग पैरामीटर का उपयोग करके यादृच्छिकता और पुनरुत्पादकता को नियंत्रित करें।

समायोजित करें temperature रचनात्मकता के लिए, top_p न्यूक्लियस सैंपलिंग के लिए, और seed निर्धारक आउटपुट के लिए।

ये पैरामीटर अनसेंसर्ड मॉडल कैसे टेक्स्ट जनरेट करता है, इस पर प्रभाव डालते हैं। उपयोग करें stop सीक्वेंस का उपयोग जनरेशन को जल्दी रोकने के लिए।

उपस्थिति और आवृत्ति पेनल्टी लंबे संदर्भों में दोहराव कम करने में मदद करती हैं।

लिमिट्स और एरर्स हैंडल करना

अपने अनुरोध दर और क्रेडिट शेष की निगरानी करें ताकि बाधाएं न हों।

प्रति कुंजी प्रति मिनट 300 अनुरोधों तक सीमित रहें। आप एक साथ 8 अनुरोध चला सकते हैं।

अपनी API कुंजी की वैधता जांचकर 401 त्रुटियों को हैंडल करें। क्रिप्टो के साथ टॉप अप करके 402 त्रुटियों को हल करें।

429 रेट लिमिट त्रुटियों को प्रबंधित करें एक्सपोनेंशियल बैकऑफ़ लागू करके। कॉन्टेक्स्ट विंडो 100,000 टोकन का समर्थन करती है इनपुट और कंप्लीशन को मिलाकर।

अनुरोध बॉडी 8 MB से अधिक नहीं होनी चाहिए।