Hızlı Başlangıç: Obliterated modeli entegre etme
Proxy sarmalayıcılarla uğraşmayı bırakın. Standart OpenAI uyumlu uç noktayı kullanarak metni kısıtlamasız LLM'ye hemen gönderin.
Kurulum ve SDK kurulumu
Tercih ettiğiniz kütüphaneyi yükleyin ve temel URL'yi altyapımıza işaret edecek şekilde yapılandırın.
pip install openai
Temel URL'yi şuna ayarlayın https://api.obliteratedmodel.com/v1 ve API anahtarınızı ekleyin. Bu, standart spec'i takip eden herhangi bir istemci ile çalışır.
Google veya e-posta ile kayıt olduktan sonra anahtarınızı panodan alın. Doğrulama için telefon numarası gerekmez.
Anahtarınızın aktif olduğundan emin olun.
- SDK'yı yükleyin.
- Temel URL'yi ayarlayın.
- API anahtarınızı girin.
from openai import OpenAI
client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
/v1/chat/completions uç noktası
Metin yanıtları almak için sohbet tamamlama uç noktasına bir POST isteği gönderin.
Model tanımlayıcısını kullanın uncensored yükünüzde. Uç nokta, şunlar gibi standart parametreleri kabul eder temperature ve top_p.
Girdi tokenleri 1 milyon başına $0.15 oranında ücretlendirilirken, çıktı tokenleri 1 milyon başına $0.50'dir. Hatalar kredileri tüketmez.
curl https://api.obliteratedmodel.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
}'
Akış yanıtları ve belirteç sayıları
Ayarlayarak akışı etkinleştirin stream: true istemci gövnenizde.
API, Sunucu Tarafından Gönderilen Olaylar (Server-Sent Events) aracılığıyla parçalar döndürür. Token kullanım ayrıntıları akışın son parçasında görünür.
Çıktı uzunluğunu kontrol etmek için bir maksimum token sınırını ayarlayın. Bir değer belirtmezseniz varsayılan değer 2.048 tokendır.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Fonksiyon çağırma ve JSON modu
Yanıtlarınızı JSON modu veya işlev çağırma kullanarak yapılandırın.
Ayarla response_format için {"type": "json_object"} katı JSON çıktısı için. Şunu kullanın tools parametre, fonksiyon çağırma yetenekleri için.
Bu, dağınık metin ayrıştırmadan uygulamalarınıza programatik entegrasyona olanak tanır.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Parametreler: sıcaklık, top_p ve seed
Rastgelelik ve tekrarlanabilirliği standart örnekleme parametrelerini kullanarak kontrol edin.
Ayarla temperature yaratıcılık için, top_p nükleus örnekleme için ve seed belirleyici çıktılar için.
Bu parametreler sansürsüz modelin metin üretme şeklini etkiler. Kullanın stop belirli noktalarda üretimi durdurmak için diziler.
Varlık ve sıklık cezaları, uzun bağlamlardaki tekrarları azaltmaya yardımcı olur.
Limitleri ve hataları işleme
İstek hızınızı ve kredi bakiyenizi izleyerek kesintileri önleyin.
Anahtar başına dakikada 300 istekle sınırlı kalın. Aynı anda 8 istek çalıştırabilirsiniz.
401 hatalarını anahtar geçerliliğinizi kontrol ederek yönetin. 402 hatalarını kripto ile yükleyerek çözün.
429 hız sınırı hatalarını üstel geri çekilme (exponential backoff) uygulayarak yönetin. Bağlam penceresi giriş ve tamamlama için birlikte 100,000 token destekler.
İstek gövdeleri 8 MB'ı aşmamalıdır.
Al your API key
Kaydolun, jetonu kopyalayın, uç noktayı güncelleyin. İşte bu kadar.