Permulaan Pantas API Dolphin llm

Pengesahan & Penetapan URL Asas

API ini menggunakan pengesahan token Bearer piawai. Anda menerima kunci anda serta-merta selepas mendaftar dengan Google atau alamat e-mel. Simpan kunci ini dengan selamat dalam pembolehubah persekitaran anda. Semua permintaan mesti menyasarkan URL asas yang didedikasikan untuk model tanpa sensor.

• URL Asas: HTTPS://api.llmdolphin.com/v1
• Header Auth: Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llmdolphin.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to 5"}]
  }'

Penamat Chat Completions

Hantar prompt teks ke hujung POST /v1/chat/completions. ID model adalah 'uncensored'. Anda boleh menstrim respons atau menerimanya sebagai blok teks penuh. API menerima format mesej standard dengan peranan sistem, pengguna, dan pembantu.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmdolphin.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Penggunaan Token Respons Streaming

Aktifkan penstriman dengan menetapkan stream=true. Pelayan mengembalikan Server-Sent Events (SSE). Data penggunaan token muncul dalam chunk terakhir aliran. Ini membolehkan anda menjejak kos secara masa nyata tanpa menunggu respons penuh.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmdolphin.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Panggilan Fungsi & Mod JSON

Model ini menyokong panggilan fungsi dengan definisi alat. Anda juga boleh memaksa output JSON menggunakan response_format. Ini memastikan penguraian yang konsisten untuk landasan automasi anda. Takrifkan alat dalam array mesej atau objek permintaan.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Parameter: Suhu, Top P, dan Seed

Kawal kreativiti dengan suhu dan kepelbagaian dengan top_p. Gunakan benih untuk output yang boleh direproduksi. Model menerima parameter standard seperti jujukan hentian dan penalti kehadiran. Laraskan nilai-nilai ini untuk sesuai dengan kes penggunaan khusus anda.

Pengendalian Ralat & Had Kadar

Tangani ralat 401 untuk kunci tidak sah dan 402 untuk kredit tidak mencukupi. Had kadar ialah 300 permintaan setiap minit. Tetingkap konteks ialah 100,000 token. Ralat dan penolakan tidak menggunakan kredit. Periksa status respons untuk butiran.