Mula Cepat: Mengintegrasikan model yang dilupuskan

Pemasangan dan persediaan SDK

Pasang perpustakaan pilihan anda dan konfigurasikan URL asas untuk menunjuk ke infrastruktur kami.

pip install openai

Tetapkan URL asas kepada https://api.obliteratedmodel.com/v1 dan masukkan kunci API anda. Ini berfungsi dengan mana-mana klien yang mengikut spesifikasi piawai.

Dapatkan kunci anda dari papan pemuka selepas mendaftar dengan Google atau e-mel. Tiada nombor telefon diperlukan untuk pengesahan.

Pastu kunci anda aktif sebelum membuat permintaan.

• Pasang SDK.
• Tetapkan URL asas.
• Masukkan kunci API anda.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Hujung sambungan /v1/chat/completions

Hantar permintaan POST ke hujung akhir penyelesaian sembang untuk menerima respons teks.

Gunakan pengenal model uncensored dalam badan permintaan anda. Akhir ini menerima parameter piawai seperti temperature dan top_p.

Token input dikenakan caj pada $0.15 per juta, manakala token output berharga $0.50 per juta. Ralat tidak menggunakan kredit.

Copycurl https://api.obliteratedmodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
  }'

Respons aliran dan kiraan token

Aktifkan aliran dengan menetapkan stream: true dalam badan permintaan anda.

API mengembalikan pecahan melalui Server-Sent Events. Butiran penggunaan token muncul dalam pecahan akhir aliran.

Tetapkan had token maksimum untuk mengawal panjang output. Nilai lalainya ialah 2,048 token jika anda tidak menentukan nilai.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Pemanggilan fungsi dan mod JSON

Struktur respons anda menggunakan mod JSON atau panggilan fungsi.

Tetapkan response_format ke {"type": "json_object"} untuk output JSON ketat. Gunakan tools parameter untuk keupayaan panggilan fungsi.

Ini membolehkan integrasi secara programatik ke dalam aplikasi anda tanpa menguraikan teks yang bersepah.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parameter: suhu, top_p, dan seed

Kawal rawak dan kebolehan diulang dengan parameter pensampelan standard.

Laraskan temperature untuk kreativiti, top_p untuk pensampelan nukleus, dan seed untuk output deterministik.

Parameter ini mempengaruhi bagaimana model tanpa sensor menjana teks. Gunakan stop jujukan untuk menghentikan penjanaan awal.

Penalti kehadiran dan frekuensi membantu mengurangkan pengulangan dalam konteks panjang.

Mengendalikan had dan ralat

Pantau kadar permintaan dan baki kredit anda untuk mengelakkan gangguan.

Hadkan diri anda kepada 300 permintaan setiap minit setiap kunci. Anda boleh menjalankan 8 permintaan serentak.

Tangani ralat 401 dengan memeriksa kesahihan kunci API anda. Selesaikan ralat 402 dengan menambah nilai menggunakan kripto.

Urus ralat had kadar 429 dengan melaksanakan backoff eksponen. Jendela konteks menyokong 100,000 token untuk input dan penyelesaian digabungkan.

Badan permintaan tidak boleh melebihi 8 MB.