התחלה מהירה: שילוב המודל המושמד

התקנה והגדרת SDK

התקן את הספרייה המועדפת עליך וקבע את כתובת ה-URL הבסיסית כך שתצביע על התשתית שלנו.

pip install openai

הגדר את כתובת הבסיס ל https://api.obliteratedmodel.com/v1 והכנס את מפתח ה-API שלך. זה עובד עם כל לקוח העוקב אחר הספק הסטנדרטי.

שחזר את המפתח שלך מלוח הבקרה לאחר ההרשמה עם Google או אימייל. לא נדרש מספר טלפון לאימות.

ודאו שהמפתח שלכם פעיל לפני ביצוע בקשות.

• התקן את ה-SDK.
• הגדר את כתובת הבסיס.
• הזן את מפתח ה-API שלך.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

נקודת הקצה /v1/chat/completions

שלח בקשת POST לנקודת הקצה של השלמת צ'אט כדי לקבל תגובות טקסט.

השתמשו במזהה המודל uncensored בגוף הבקשה שלך. נקודת הקצה מקבלת פרמטרים סטנדרטיים כמו temperature וגם top_p.

טוקני הקלט נגבים בקצב של $0.15 למיליון, בעוד שטוקני הפלט עולים $0.50 למיליון. שגיאות לא צורכות אשראי.

Copycurl https://api.obliteratedmodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
  }'

תגובות בזרם ומספרי אסימונים

אפשרו זרימה על ידי הגדרת stream: true בגוף הבקשה שלך.

ה-API מחזיר נתונים בקטעים דרך Server-Sent Events. פרטי שימוש בטוקנים מופיעים בקטע הסופי של הזרם.

הגבל מקסימלי של טוקנים כדי לשלוט באורך הפלט. ברירת המחדל היא 2,048 טוקנים אם לא ציינת ערך.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

קריאת פונקציות ומצב JSON

מבנה את התגובות באמצעות מצב JSON או קריאת פונקציות.

הגדר response_format אל {"type": "json_object"} לפלט JSON מחמיר. השתמש ב tools פרמטר ליכולות קריאת פונקציות.

זה מאפשר אינטגרציה תכנותית לאפליקציות שלך ללא פירוק טקסט מבולגן.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

פרמטרים: טמפרטורה, top_p, ו-seed

שלוו אקראיות וניתנות לשחזור באמצעות פרמטרי דגימה סטנדרטיים.

התאם temperature ליצירתיות, top_p לדגימת ליבה, ו- seed לפלט דטרמיניסטי.

פרמטרים אלו משפיעים על אופן יצירת הטקסט על ידי המודל ללא צנזורה. השתמש stop רצפים לעצירת ייצור מוקדם.

פרמטרי עונש נוכחות ותדירות עוזרים להפחית חזרתיות בהקשרים ארוכים.

טיפול במגבלות ושגיאות

נטר את קצב הבקשות שלך ואת יתרת האשראי כדי למנוע הפרעות.

הגבל את עצמך ל-300 בקשות לדקה לכל מפתח. אתה יכול להריץ 8 בקשות בו זמנית.

טפל בשגיאות 401 על ידי בדיקת חוקיות מפתח ה-API שלך. פתור שגיאות 402 על ידי הוספת קרדיט באמצעות קריפטו.

נהלו שגיאות מגבלת קצב 429 על ידי יישום החזרה מעריכית. חלון ההקשר תומך ב-100,000 אסימונים לקלט והשלמה משולבים.

גופי הבקשה לא יעלו על 8 MB.