เริ่มต้น: การผสานรวมโมเดลที่ผ่านการลบคำสั่ง
หมดกังวลเรื่องการห่อหุ้มด้วยพร็อกซี ใช้เอนด์พอยต์ที่เข้ากันได้กับ OpenAI มาตรฐานเพื่อส่งข้อความไปยัง LLM แบบ uncensored ได้ทันที
การติดตั้งและการตั้งค่า SDK
ติดตั้งไลบรารีที่คุณต้องการและกำหนดค่า URL พื้นฐานให้ชี้ไปยังโครงสร้างพื้นฐานของเรา
pip install openai
ตั้งค่า URL ฐานเป็น https://api.obliteratedmodel.com/v1 และใส่คีย์ API ของคุณ วิธีนี้ทำงานกับไคลเอนต์ใดๆ ที่ปฏิบัติตามมาตรฐาน
ดึงคีย์ของคุณจากแดชบอร์ดหลังจากสมัครสมาชิกด้วย Google หรืออีเมล ไม่จำเป็นต้องใช้หมายเลขโทรศัพท์สำหรับการตรวจสอบ
ตรวจสอบให้แน่ใจว่าคีย์ของคุณเปิดใช้งานอยู่ก่อนทำการเรียกใช้
- ติดตั้ง SDK
- ตั้งค่า URL ฐาน
- ใส่คีย์ API ของคุณ
from openai import OpenAI
client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
endpoint /v1/chat/completions
ส่งคำขอ POST ไปยัง endpoint chat completions เพื่อรับข้อความตอบกลับ
ใช้ตัวระบุโมเดล uncensored ในโหลดคำขอของคุณ จุดปลายนี้ยอมรับพารามิเตอร์มาตรฐานเช่น temperature และ top_p.
โทเค็นอินพุตคิดอัตรา $0.15 ต่อล้าน ในขณะที่โทเค็นเอาท์พุตราคา $0.50 ต่อล้าน ข้อผิดพลาดไม่ใช้เครดิต
curl https://api.obliteratedmodel.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
}'
จำนวนโทเค็นและการตอบกลับแบบสตรีม
เปิดใช้งานการสตรีมโดยตั้งค่า stream: true ในบอดีคำขอของคุณ
API ส่งข้อมูลเป็นชิ้นส่วนผ่าน Server-Sent Events รายละเอียดการใช้งานโทเค็นจะปรากฏในชิ้นส่วนสุดท้ายของสตรีม
ตั้งค่าขีดจำกัดโทเค็นสูงสุดเพื่อควบคุมความยาวของเอาต์พุต ค่าเริ่มต้นคือ 2,048 โทเค็นหากคุณไม่ได้ระบุค่า
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
การเรียกฟังก์ชันและโหมด JSON
จัดโครงสร้างการตอบกลับของคุณโดยใช้โหมด JSON หรือการเรียกฟังก์ชัน
ตั้งค่า response_format เพื่อ {"type": "json_object"} เพื่อให้ได้ผลลัพธ์ JSON อย่างเคร่งครัด ใช้ tools พารามิเตอร์นี้สำหรับความสามารถในการเรียกใช้ฟังก์ชัน
สิ่งนี้ช่วยให้สามารถผสานรวมกับแอปพลิเคชันของคุณผ่านโปรแกรมได้โดยไม่ต้องแยกวิเคราะห์ข้อความที่ยุ่งเหยิง
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
พารามิเตอร์: อุณหภูมิ, top_p และ seed
ควบคุมความสุ่มและความสามารถในการทำซ้ำด้วยพารามิเตอร์การสุ่มมาตรฐาน
ปรับ temperature สำหรับความคิดสร้างสรรค์, top_p สำหรับการสุ่มแบบ nucleus และ seed สำหรับผลลัพธ์ที่มีความแน่นอน.
พารามิเตอร์เหล่านี้ส่งผลต่อวิธีการสร้างข้อความของโมเดลแบบ uncensored ใช้ stop ลำดับเพื่อหยุดการสร้างแต่เนิ่นๆ
การปรับความถี่และความถี่ช่วยลดการซ้ำในบริบทที่ยาว
การจัดการขีดจำกัดและข้อผิดพลาด
ตรวจสอบอัตราความเร็วคำขอและยอดเงินเครดิตของคุณเพื่อหลีกเลี่ยงการหยุดชะงัก
จำกัดตัวเองไว้ที่ 300 คำขอต่อนาทีต่อคีย์ คุณสามารถรันคำขอได้ 8 คำขอไปพร้อมกัน
จัดการข้อผิดพลาด 401 โดยตรวจสอบความถูกต้องของคีย์ API แก้ไขข้อผิดพลาด 402 โดยการเติมเงินด้วยคริปโต
จัดการข้อผิดพลาด rate limit 429 โดยการใช้ exponential backoff หน้าต่างบริบทรองรับ 100,000 tokens สำหรับ input และ completion รวมกัน
ขนาดของ request body ต้องไม่เกิน 8 MB
รับ your API key
สมัครสมาชิก คัดลอกโทเค็น แล้วอัปเดตจุดปลาย แค่นั้นแหละ