Memulai: Mengintegrasikan model yang dihapus
Berhenti bergumul dengan pembungkus proxy. Gunakan endpoint kompatibel OpenAI standar untuk mengirim teks ke LLM tanpa sensor segera.
Instalasi dan setup SDK
Instal pustaka pilihan Anda dan konfigurasikan URL dasar untuk menunjuk ke infrastruktur kami.
pip install openai
Atur URL dasar ke https://api.obliteratedmodel.com/v1 dan masukkan kunci API Anda. Ini berfungsi dengan klien apa pun yang mengikuti spesifikasi standar.
Ambil kunci Anda dari dasbor setelah mendaftar dengan Google atau email. Tidak diperlukan nomor telepon untuk verifikasi.
Pastikan kunci Anda aktif sebelum membuat permintaan.
- Instal SDK.
- Atur URL dasar.
- Masukkan kunci API Anda.
from openai import OpenAI
client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Endpoint /v1/chat/completions
Kirim permintaan POST ke endpoint chat completions untuk menerima respons teks.
Gunakan pengenal model uncensored dalam payload Anda. Endpoint menerima parameter standar seperti temperature dan top_p.
Token input dikenakan biaya sebesar $0,15 per juta, sementara token output berharga $0,50 per juta. Kesalahan tidak mengonsumsi kredit.
curl https://api.obliteratedmodel.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
}'
Responsi streaming dan jumlah token
Aktifkan streaming dengan mengatur stream: true dalam badan permintaan Anda.
API mengembalikan potongan data melalui Server-Sent Events. Detail penggunaan token muncul di potongan terakhir dari aliran data.
Atur batas token maksimum untuk mengontrol panjang output. Default adalah 2.048 token jika Anda tidak menentukan nilai.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Pemanggilan fungsi dan mode JSON
Strukturkan respons Anda menggunakan mode JSON atau function calling.
Atur response_format ke {"type": "json_object"} untuk output JSON ketat. Gunakan tools parameter untuk kemampuan pemanggilan fungsi.
Hal ini memungkinkan integrasi programatik ke dalam aplikasi Anda tanpa mengurai teks yang berantakan.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Parameter: suhu, top_p, dan seed
Kendalikan acak dan reproduktibilitas dengan parameter pengambilan sampel standar.
Sesuaikan temperature untuk kreativitas, top_p untuk sampling nuklir, dan seed untuk output deterministik.
Parameter-parameter ini memengaruhi bagaimana model tanpa sensor menghasilkan teks. Gunakan stop urutan untuk menghentikan generasi lebih awal.
Penalti kehadiran dan frekuensi membantu mengurangi pengulangan dalam konteks panjang.
Menangani batas dan error
Pantau laju permintaan dan saldo kredit Anda untuk menghindari gangguan.
Batasi diri Anda pada 300 permintaan per menit per kunci. Anda dapat menjalankan 8 permintaan secara bersamaan.
Handle error 401 dengan memeriksa validitas kunci API Anda. Selesaikan error 402 dengan mengisi ulang menggunakan kripto.
Kelola kesalahan batas laju 429 dengan menerapkan backoff eksponensial. Jendela konteks mendukung 100.000 token untuk input dan completion gabungan.
Body permintaan tidak boleh melebihi 8 MB.
Dapatkan kunci API Anda
Daftar, salin token, perbarui endpoint. Itu saja.