시작하기: obliterated 모델 통합하기

설치 및 SDK 설정

선호하는 라이브러리를 설치하고 베이스 URL을 저희 인프라를 가리키도록 구성하세요.

pip install openai

기본 URL을 https://api.obliteratedmodel.com/v1 API 키를 삽입하세요. 이 방식은 표준 사양을 따르는 모든 클라이언트와 호환됩니다.

Google 또는 이메일로 회원가입한 후 대시보드에서 키를 검색하세요. 검증에 전화번호가 필요하지 않습니다.

키가 활성화되어 있는지 확인하세요.

• SDK를 설치합니다.
• 기본 URL을 설정하세요.
• API 키를 입력하세요.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

/v1/chat/completions 엔드포인트

채팅 완료 엔드포인트로 POST 요청을 보내 텍스트 응답을 받으십시오.

모델 식별자 uncensored 페이로드에서. 엔드포인트는 다음과 같은 표준 매개변수를 허용합니다. temperature 및 top_p.

입력 토큰은 100만 토큰당 $0.15로 청구되며, 출력 토큰은 100만 토큰당 $0.50입니다. 오류는 크레딧을 소모하지 않습니다.

Copycurl https://api.obliteratedmodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
  }'

스트리밍 응답 및 토큰 수

stream을 true로 설정하여 스트리밍 활성화 stream: true 요청 본문에 포함하세요.

API는 서버 전송 이벤트(Server-Sent Events)를 통해 청크를 반환합니다. 토큰 사용량 세부 정보는 스트림의 마지막 청크에 나타납니다.

출력 길이를 제어하기 위해 최대 토큰 제한을 설정합니다. 값을 지정하지 않으면 기본값은 2,048 토큰입니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

함수 호출 및 JSON 모드

JSON 모드 또는 함수 호출을 사용하여 응답을 구조화합니다.

設定 response_format 수신하여 {"type": "json_object"} 엄격한 JSON 출력을 위해 tools 함수 호출 기능을 위한 매개변수입니다.

이 기능을 통해 지저분한 텍스트 파싱 없이 애플리케이션에 프로그래밍 방식으로 통합할 수 있습니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

파라미터: temperature, top_p 및 seed

표준 샘플링 매개변수를 사용하여 무작위성과 재현성을 제어하세요.

조정 temperature 창의성, top_p nucleus sampling을 위해, 및 seed 결정론적 출력.

이 파라미터들은 Uncensored 모델이 텍스트를 생성하는 방식에 영향을 미칩니다. 사용 stop 생성을 조기에 중단하기 위한 시퀀스.

존재도 및 빈도 패널티는 긴 컨텍스트에서 반복을 줄이는 데 도움이 됩니다.

制限とエラーの処理

요청 속도와 신용 잔액을 모니터링하여 중단을 피하세요.

키당 분당 300회 요청으로 제한하세요. 동시에 8개의 요청을 실행할 수 있습니다.

API 키 유효성을 확인하여 401 오류를 처리합니다. 암호화폐로 충전하여 402 오류를 해결합니다.

429 속도 제한 오류를 지수 백오프(exponential backoff) 구현으로 관리하세요. 컨텍스트 창은 입력과 완료를 합쳐 100,000개의 토큰을 지원합니다.

요청 본문은 8MB를 초과할 수 없습니다.