شروع سریع API مدل llm دلفین

تنظیم احراز هویت و URL پایه

این API از احراز هویت توکن Bearer استاندارد استفاده می‌کند. شما کلید خود را بلافاصله پس از ثبت‌نام با Google یا آدرس ایمیل دریافت می‌کنید. این کلید را به‌طور ایمن در متغیرهای محیطی خود ذخیره کنید. تمام درخواست‌ها باید به URL پایه اختصاصی برای مدل بدون سانسور هدف قرار گیرند.

• URL پایه: HTTPS://api.llmdolphin.com/v1
• هدر Auth: Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llmdolphin.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to 5"}]
  }'

نقطه پایانی تکمیل گفتگو

پرامپت‌های متنی را به endpoint POST /v1/chat/completions ارسال کنید. شناسه مدل 'uncensored' است. می‌توانید پاسخ‌ها را استریم کنید یا به صورت بلوک‌های متنی کامل دریافت کنید. API فرمت‌های استاندارد پیام با نقش‌های system، user و assistant را می‌پذیرد.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmdolphin.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

پاسخ‌های استریم و مصرف توکن

با تنظیم stream=true، پخش زنده را فعال کنید. سرور رویدادهای سربرگ‌فرستاده‌شده (SSE) را برمی‌گرداند. داده‌های مصرف توکن در قطعه نهایی جریان ظاهر می‌شوند. این امکان ردیابی هزینه‌ها را به‌صورت بلادرنگ بدون انتظار برای پاسخ کامل فراهم می‌کند.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmdolphin.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Function Calling & JSON Mode

مدل از function calling با تعریف ابزارها پشتیبانی می‌کند. همچنین می‌توانید با استفاده از response_format خروجی JSON را اجبار کنید. این تجزیه یکسان را برای پایپ‌لاین‌های اتوماسیون شما تضمین می‌کند. ابزارها را در آرایه messages یا شی درخواست تعریف کنید.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

پارامترها: دما، Top P و Seed

خلاقیت را با دما کنترل کنید و تنوع را با top_p. از seed برای خروجیات قابل بازتولید استفاده کنید. مدل پارامترهای استاندارد مانند دنباله‌های توقف و جریمه حضور را می‌پذیرد. این مقادیر را برای تطبیق با مورد استفاده خاص خود تنظیم کنید.

مدیریت خطا و محدودیت نرخ

خطاهای 401 را برای کلیدهای نامعتبر و 402 را برای اعتبار ناکافی مدیریت کنید. محدودیت نرخ 300 درخواست در دقیقه است. پنجره زمینه 100,000 توکن است. خطاها و رد شدن‌ها اعتبار مصرف نمی‌کنند. برای جزئیات وضعیت پاسخ را بررسی کنید.