Hurtigstart: Integration af den obliteratede model
Slip for at kæmpe med proxy-wrappere. Brug det standard OpenAI-kompatible endpoint til at sende tekst til den ubegrænsede LLM med det samme.
Installation og SDK opsætning
Installer din foretrukne bibliotek og konfigurer base URL til at pege på vores infrastruktur.
pip install openai
Indstil base URL til https://api.obliteratedmodel.com/v1 og indsætte din API-nøgle. Dette fungerer med enhver klient, der følger standardspecifikationen.
Hent din nøgle fra dashboardet efter tilmelding med Google eller e-mail. Intet telefonnummer er påkrævet til verifikation.
Sørg for, at din nøgle er aktiv, før du foretager anmodninger.
- Installer SDK'et.
- Indstil base URL.
- Indsæt din API-nøgle.
from openai import OpenAI
client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Endpointet /v1/chat/completions
Send en POST-anmodning til chat-completions-endepunktet for at modtage tekstrespons.
Brug modelidentifikatoren uncensored i din payload. Endpointet accepterer standardparametre som temperature og top_p.
Input-tokens opkræves til $0,15 per million, mens output-tokens koster $0,50 per million. Fejl forbruger ikke kredit.
curl https://api.obliteratedmodel.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
}'
Streaming-respons og antal tokens
Aktivér streaming ved at indstille stream: true i din anmodningskrop.
API'en returnerer chunks via Server-Sent Events. Token-brugsdetaljer vises i den sidste chunk af streamen.
Indstil en maksimal token-grænse for at kontrollere outputlængden. Standardværdien er 2.048 tokens, hvis du ikke angiver en værdi.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Function calling og JSON-mode
Strukturer dine svar ved hjælp af JSON-tilstand eller function calling.
Indstil response_format til {"type": "json_object"} for streng JSON-output. Brug tools parameter til funktionssamtale-funktioner.
Dette giver mulighed for programmatisk integration i dine applikationer uden at skulle parse rodet tekst.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Parametre: temperatur, top_p og seed
Styr tilfældighed og reproducerbarhed med standard samplingparametre.
Juster temperature til kreativitet, top_p for nucleus sampling, og seed til deterministiske output.
Disse parametre påvirker, hvordan den uncensored model genererer tekst. Brug stop sekvenser til at afbryde genereringen tidligt.
Tilstedeværelses- og frekvensstraffe hjælper med at reducere gentagelser i lange kontekster.
Håndtering af begrænsninger og fejl
Overvåg din anmodningshastighed og kreditbalance for at undgå afbrydelser.
Begræns dig selv til 300 forespørgsler i minuttet per nøgle. Du kan køre 8 forespørgsler samtidigt.
Håndter 401-fejl ved at tjekke gyldigheden af din API-nøgle. Løs 402-fejl ved at toppe op med krypto.
Håndter 429 rate limit-fejl ved at implementere eksponentiel backoff. Context-vinduet understøtter 100.000 tokens for input og completion tilsammen.
Anmodningskroppe må ikke overstige 8 MB.
Hent din API-nøgle
Tilmeld dig, kopier tokenet, opdater endpointet. Det er det.