Hướng dẫn nhanh API Dolphin llm

Xác thực & Thiết lập Base URL

API sử dụng xác thực token Bearer tiêu chuẩn. Bạn nhận được khóa ngay sau khi đăng ký bằng Google hoặc địa chỉ email. Lưu khóa này một cách an toàn trong các biến môi trường của bạn. Tất cả các yêu cầu phải nhắm đến URL cơ sở chuyên dụng cho mô hình không kiểm duyệt.

• Base URL: HTTPS://api.llmdolphin.com/v1
• Tiêu đề Auth: Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llmdolphin.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to 5"}]
  }'

Điểm cuối Chat Completions

Gửi các prompt văn bản đến điểm cuối POST /v1/chat/completions. ID mô hình là 'uncensored'. Bạn có thể stream các phản hồi hoặc nhận chúng dưới dạng các khối văn bản đầy đủ. API chấp nhận các định dạng thông điệp tiêu chuẩn với các vai trò system, user và assistant.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmdolphin.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Phản hồi luồng & Sử dụng token

Bật chế độ streaming bằng cách đặt stream=true. Máy chủ trả về các sự kiện Server-Sent Events (SSE). Dữ liệu sử dụng token xuất hiện trong chunk cuối cùng của stream. Điều này cho phép bạn theo dõi chi phí theo thời gian thực mà không cần chờ đợi phản hồi hoàn chỉnh.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmdolphin.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Gọi hàm & Chế độ JSON

Mô hình hỗ trợ gọi hàm với các định nghĩa công cụ. Bạn cũng có thể buộc đầu ra JSON bằng cách sử dụng response_format. Điều này đảm bảo việc phân tích nhất quán cho các quy trình tự động hóa của bạn. Định nghĩa các công cụ trong mảng messages hoặc đối tượng yêu cầu.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tham số: Nhiệt độ, Top P và Seed

Kiểm soát sự sáng tạo với temperature và đa dạng với top_p. Sử dụng seed cho các đầu ra có thể tái lập. Mô hình chấp nhận các tham số tiêu chuẩn như chuỗi dừng và hình phạt hiện diện. Điều chỉnh các giá trị này cho phù hợp với trường hợp sử dụng cụ thể của bạn.

Xử lý lỗi & Giới hạn tốc độ

Xử lý lỗi 401 cho khóa không hợp lệ và 402 cho số dư không đủ. Giới hạn tốc độ là 300 yêu cầu mỗi phút. Cửa sổ ngữ cảnh là 100.000 token. Lỗi và từ chối không tiêu tốn số dư. Kiểm tra trạng thái phản hồi để biết chi tiết.