Bắt đầu nhanh: Tích hợp mô hình bị xóa

Cài đặt và thiết lập SDK

Cài đặt thư viện ưa thích của bạn và cấu hình URL cơ sở trỏ đến cơ sở hạ tầng của chúng tôi.

pip install openai

Đặt URL cơ sở thành https://api.obliteratedmodel.com/v1 và chèn khóa API của bạn. Điều này hoạt động với bất kỳ khách hàng nào tuân theo đặc tả tiêu chuẩn.

Truy xuất khóa của bạn từ bảng điều khiển sau khi đăng ký bằng Google hoặc email. Không cần số điện thoại để xác minh.

Đảm bảo khóa của bạn đang hoạt động trước khi thực hiện các yêu cầu.

• Cài đặt SDK.
• Đặt URL cơ sở.
• Nhập khóa API của bạn.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.obliteratedmodel.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Điểm cuối /v1/chat/completions

Gửi yêu cầu POST đến điểm cuối chat completions để nhận phản hồi văn bản.

Sử dụng định danh model uncensored trong tải trọng của bạn. Điểm cuối chấp nhận các tham số tiêu chuẩn như temperature và top_p.

Token đầu vào được tính phí $0,15 cho mỗi triệu, trong khi token đầu ra tốn $0,50 cho mỗi triệu. Lỗi không tiêu tốn tín dụng.

Copycurl https://api.obliteratedmodel.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 linux commands for disk usage."}]
  }'

Phản hồi dạng stream và số lượng token

Bật phát trực tiếp bằng cách đặt stream: true trong thân yêu cầu của bạn.

API trả về các đoạn dữ liệu thông qua Server-Sent Events. Chi tiết sử dụng token xuất hiện trong đoạn cuối cùng của luồng.

Đặt giới hạn token tối đa để kiểm soát độ dài đầu ra. Giá trị mặc định là 2,048 token nếu bạn không chỉ định giá trị.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Gọi hàm và chế độ JSON

Cấu trúc các phản hồi của bạn bằng cách sử dụng chế độ JSON hoặc gọi hàm.

Đặt response_format để {"type": "json_object"} cho đầu ra JSON nghiêm ngặt. Sử dụng tools tham số cho khả năng gọi hàm.

Điều này cho phép tích hợp lập trình vào các ứng dụng của bạn mà không cần phân tích văn bản lộn xộn.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.obliteratedmodel.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tham số: nhiệt độ, top_p và seed

Kiểm soát độ ngẫu nhiên và khả năng tái lập bằng các tham số lấy mẫu tiêu chuẩn.

Điều chỉnh temperature để sáng tạo, top_p để lấy mẫu nucleus, và seed để đầu ra xác định.

Các tham số này ảnh hưởng đến cách mô hình không kiểm duyệt tạo văn bản. Sử dụng stop chuỗi để dừng quá trình tạo sớm.

Penalty về sự hiện diện và tần suất giúp giảm sự lặp lại trong ngữ cảnh dài.

Xử lý giới hạn và lỗi

Theo dõi tốc độ yêu cầu và số dư tín dụng của bạn để tránh gián đoạn.

Giới hạn bản thân ở mức 300 yêu cầu mỗi phút mỗi khóa. Bạn có thể chạy 8 yêu cầu cùng lúc.

Xử lý lỗi 401 bằng cách kiểm tra tính hợp lệ của khóa API. Giải quyết lỗi 402 bằng cách nạp thêm tiền bằng tiền điện tử.

Quản lý lỗi giới hạn tốc độ 429 bằng cách triển khai backoff theo cấp số nhân. Cửa sổ ngữ cảnh hỗ trợ 100.000 token cho đầu vào và hoàn tất kết hợp.

Thân yêu cầu không vượt quá 8 MB.