Snabbstart: Att integrera den obliterade modellen
Sluta kämpa med proxy-omslag. Använd den standard OpenAI-kompatibla slutpunkten för att skicka text till den osensurerade LLM omedelbart.
Installation och SDK-uppsättning
Installera din föredragna bibliotek och konfigurera bas-URL:n att peka mot vår infrastruktur.
pip install openai
Ställ in bas-URL:en till https://api.obliteratedmodel.com/v1 och infoga din API-nyckel. Detta fungerar med vilken klient som helst som följer standardspecifikationen.
Hämta din nyckel från kontrollpanelen efter att ha registrerat dig med Google eller e-post. Inget telefonnummer krävs för verifiering.
Se till att din nyckel är aktiv innan du gör begäranden.
- Installera SDK:et.
- Ställ in bas-URL:en.
- Infoga din API-nyckel.
from openai import OpenAI
client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Slutpunkten /v1/chat/completions
Skicka en POST-begäran till chat-completions-slutpunkten för att ta emot text-svar.
Använd modell-identifieraren uncensored i din last. Ändpunkten accepterar standardparametrar som temperature och top_p.
Indatatokens debiteras till $0,15 per miljon, medan utdatatokens kostar $0,50 per miljon. Fel förbrukar inte kredit.
curl https://api.obliteratedmodel.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
}'
Strömsvaren och tokenantal
Aktivera strömning genom att ställa in stream: true i din förfrågningskropp.
API:et returnerar bitar via Server-Sent Events. Tokenanvändningsdetaljer visas i den sista biten av strömmen.
Ställ in en maximal tokengräns för att kontrollera utmatningslängd. Standardvärdet är 2 048 tokens om du inte anger ett värde.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Function calling och JSON-läge
Strukturera dina svar med JSON-läge eller funktionsanrop.
Ställ in response_format för {"type": "json_object"} för strikt JSON-utdata. Använd tools parametern för funktionssammanfallande funktioner.
Detta möjliggör programmatisk integration i dina applikationer utan att tolka krånglig text.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Parametrar: temperatur, top_p och seed
Styr slumpmässighet och reproducerbarhet med standarda samplingparametrar.
Justera temperature för kreativitet, top_p för nucleus sampling, och seed för deterministiska utdata.
Dessa parametrar påverkar hur den uncensored-modellen genererar text. Använd stop sekvenser för att avbryta genereringen i förtid.
Närvaros- och frekvensstraff hjälper till att minska repetition i långa kontexter.
Hantering av begränsningar och fel
Övervaka din begärantakt och kreditbalans för att undvika avbrott.
Begränsa dig till 300 förfrågningar per minut per nyckel. Du kan köra 8 förfrågningar samtidigt.
Hantera 401-fel genom att kontrollera din API-nyckelgiltighet. Lös 402-fel genom att ladda upp med krypto.
Hantera 429-hastighetsbegränsningsfel genom att implementera exponentiell backoff. Kontextrutan stöder 100 000 tokens för inmatning och komplettering tillsammans.
Begärkroppen får inte överstiga 8 MB.
Hämta your API key
Registrera dig, kopiera token, uppdatera slutpunkten. Det är det.