Быстрый старт: Подключение аблигированной модели

Установка и настройка SDK

Установите предпочитаемую библиотеку и настройте базовый URL на нашу инфраструктуру.

pip install openai

Укажите базовый URL на https://api.obliteratedmodel.com/v1 и вставьте свой API-ключ. Это работает с любым клиентом, соответствующим стандартной спецификации.

Получите ваш ключ из панели управления после регистрации с помощью Google или электронной почты. Для проверки не требуется номер телефона.

Убедитесь, что ваш ключ активен перед отправкой запросов.

• Установите SDK.
• Укажите базовый URL.
• Вставьте свой API-ключ.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Эндпоинт /v1/chat/completions

Отправьте POST-запрос на эндпоинт chat completions для получения текстовых ответов.

Используйте идентификатор модели uncensored в полезной нагрузке. Endpoint принимает стандартные параметры, такие как temperature и top_p.

Входные токены тарифицируются по ставке $0.15 за миллион, а выходные токены стоят $0.50 за миллион. Ошибки не списывают кредиты.

Copycurl https://api.obliteratedmodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
  }'

Потоковая передача ответов и количество токенов

Включите потоковую передачу, установив stream: true в тело запроса.

API возвращает фрагменты через Server-Sent Events. Детали использования токенов отображаются в последнем фрагменте потока.

Установите максимальный лимит токенов для контроля длины вывода. Значение по умолчанию составляет 2,048 токенов, если вы не укажете значение.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Вызов функций и режим JSON

Структурируйте ответы с помощью режима JSON или вызова функций.

Установить response_format для {"type": "json_object"} для строгого вывода JSON. Используйте tools параметр для возможностей вызова функций.

Это позволяет программно интегрировать API в ваши приложения без необходимости парсить неструктурированный текст.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Параметры: temperature, top_p и seed

Управляйте случайностью и воспроизводимостью с помощью стандартных параметров выборки.

Настроить temperature для творчества, top_p для выборки по ядру, и seed для детерминированных результатов.

Эти параметры влияют на то, как uncensored модель генерирует текст. Используйте stop последовательности для досрочной остановки генерации.

Штрафы за присутствие и частоту помогают уменьшить повторения в длинных контекстах.

Обработка ограничений и ошибок

Следите за частотой запросов и балансом кредита, чтобы избежать сбоев.

Ограничьте себя до 300 запросов в минуту на ключ. Вы можете выполнять 8 запросов одновременно.

Обработка ошибок 401 путем проверки действительности вашего API-ключа. Решение ошибок 402 путем пополнения криптовалютой.

Управляйте ошибками лимита 429, внедряя экспоненциальное замедление. Окно контекста поддерживает 100,000 токенов для входных данных и завершения вместе.

Тела запросов не должны превышать 8 МБ.