Швидкий старт: Інтеграція знесеної моделі

Встановлення та налаштування SDK

Встановіть бажану бібліотеку та налаштуйте базову URL-адресу на нашу інфраструктуру.

pip install openai

Вкажіть базовий URL на https://api.obliteratedmodel.com/v1 і вставте свій API-ключ. Це працює з будь-яким клієнтом, що відповідає стандартній специфікації.

Отримайте свій ключ з панелі керування після реєстрації через Google або електронну пошту. Для верифікації не потрібен номер телефону.

Переконайтеся, що ваш ключ активний перед надсиланням запитів.

• Встановіть SDK.
• Вкажіть базовий URL.
• Вставте свій API-ключ.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ендпоінт /v1/chat/completions

Відправте POST-запит до кінцевої точки chat completions для отримання текстових відповідей.

Використовуйте ідентифікатор моделі uncensored у вашому тілі запиту. Кінцева точка приймає стандартні параметри, такі як temperature та top_p.

Вхідні токени нараховуються за ставкою $0.15 за мільйон, тоді як вихідні токени коштують $0.50 за мільйон. Помилки не зменшують кредити.

Copycurl https://api.obliteratedmodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
  }'

Потокова передача відповідей та кількість токенів

Увімкніть потокову передачу, встановивши stream: true у тілі вашого запиту.

API повертає фрагменти через Server-Sent Events. Деталі використання токенів з’являються в останньому фрагменті потоку.

Встановіть максимальне обмеження токенів для контролю довжини виходу. За замовчуванням встановлено 2 048 токенів, якщо ви не вказали значення.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Виклик функцій та режим JSON

Структуруйте відповіді за допомогою режиму JSON або виклику функцій.

Встановити response_format до {"type": "json_object"} для суворого виводу JSON. Використовуйте tools параметр для можливостей виклику функцій.

Це дозволяє програмно інтегруватися у ваші додатки без парсингу незграбного тексту.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Параметри: temperature, top_p та seed

Керуйте випадковістю та відтворюваністю за допомогою стандартних параметрів вибірки.

Налаштувати temperature для творчості, top_p для вибірки за ядром (nucleus sampling), та seed для детермінованих результатів.

Ці параметри впливають на те, як uncensored модель генерує текст. Використовуйте stop послідовності для дострокової зупинки генерації.

Параметри штрафу за наявність та частоту допомагають зменшити повторення в довгих контекстах.

Обробка лімітів і помилок

Моніторьте частоту запитів та баланс коштів, щоб уникнути переривань.

Обмежте себе до 300 запитів на хвилину на ключ. Ви можете виконувати 8 запитів одночасно.

Вирішуйте помилки 401, перевіряючи валідність API-ключа. Вирішуйте помилки 402, поповнюючи баланс криптовалютою.

Керуйте помилками ліміту швидкості 429, впроваджуючи експоненційне повторення спроб. Вікно контексту підтримує 100 000 токенів для вхідних даних та відповіді разом.

Тіла запитів не повинні перевищувати 8 МБ.