Szybki start: Integracja modelu obliterated

Instalacja i setup SDK

Zainstaluj preferowaną bibliotekę i skonfiguruj base URL, aby wskazywał na naszą infrastrukturę.

pip install openai

Ustaw URL bazowy na https://api.obliteratedmodel.com/v1 i wstaw swój klucz API. Działa z dowolnym klientem, który przestrzega standardowej specyfikacji.

Pobierz swój klucz z pulpitu nawigacyjnego po rejestracji za pomocą Google lub e-maila. Nie jest wymagany numer telefonu do weryfikacji.

Upewnij się, że Twój klucz jest aktywny przed wysłaniem żądań.

• Zainstaluj SDK.
• Ustaw URL bazowy.
• Wklej swój klucz API.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Endpoint /v1/chat/completions

Wyślij żądanie POST do endpointu chat completions, aby otrzymać odpowiedzi tekstowe.

Użyj identyfikatora modelu uncensored w ciele żądania. Endpoint akceptuje standardowe parametry takie jak temperature i top_p.

Tokeny wejściowe są rozliczane po stawce $0,15 za milion, podczas gdy tokeny wyjściowe kosztują $0,50 za milion. Błędy nie zużywają kredytów.

Copycurl https://api.obliteratedmodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
  }'

Strumieniowanie odpowiedzi i liczby tokenów

Włącz strumieniowanie, ustawiając stream: true w ciele żądania.

API zwraca fragmenty za pośrednictwem Server-Sent Events. Szczegóły użycia tokenów pojawiają się w ostatnim fragmencie strumienia.

Ustaw maksymalny limit tokenów, aby kontrolować długość wyjścia. Domyślna wartość to 2 048 tokenów, jeśli nie określisz wartości.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Wywoływanie funkcji i tryb JSON

Zstrukturuj swoje odpowiedzi za pomocą trybu JSON lub wywoływania funkcji.

Ustaw response_format do {"type": "json_object"} dla ścisłego wyjścia JSON. Użyj tools parametr możliwości wywoływania funkcji.

Pozwala to na programistyczną integrację z Twoimi aplikacjami bez parsowania nieporządnego tekstu.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parametry: temperatura, top_p i seed

Kontroluj losowość i powtarzalność za pomocą standardowych parametrów próbkowania.

Dostosuj temperature do kreatywności, top_p do próbkowania jądra (nucleus sampling), i seed do deterministycznych wyników.

Te parametry wpływają na to, jak model bez cenzury generuje tekst. Użyj stop sekwencje do wcześniejszego zatrzymania generowania.

Kary za obecność i częstotliwość pomagają zmniejszyć powtarzalność w długich kontekstach.

Obsługa limitów i błędów

Monitoruj szybkość zapytań i saldo kredytu, aby uniknąć przerw.

Ogranicz się do 300 żądań na minutę na klucz. Możesz uruchomić 8 żądań jednocześnie.

Obsługuj błędy 401, sprawdzając ważność klucza API. Rozwiąż błędy 402, doładowując kryptowalutą.

Zarządzaj błędami limitu szybkości 429, implementując wykładnicze ponawianie prób. Okno kontekstowe obsługuje 100 000 tokenów dla wejścia i uzupełnienia łącznie.

Ciała żądań nie mogą przekraczać 8 MB.