Швидкий старт API Dolphin llm

Автентифікація & налаштування базового URL

API використовує стандартну автентифікацію Bearer-токеном. Ви отримуєте свій ключ одразу після реєстрації через Google або електронну пошту. Зберігайте цей ключ у безпеки у змінних середовища. Усі запити мають спрямовуватися на виділену базову URL-адресу для моделі без цензури.

• Базовий URL: HTTPS://api.llmdolphin.com/v1
• Заголовок Auth: Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llmdolphin.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to 5"}]
  }'

Чат-ендпоінт (Chat Completions Endpoint)

Надсилайте текстові промпти до кінцевого пункту POST /v1/chat/completions. Ідентифікатор моделі 'uncensored'. Ви можете потоково передавати відповіді або отримувати їх як повні текстові блоки. API приймає стандартні формати повідомлень з ролями system, user та assistant.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmdolphin.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Потокові відповіді та використання токенів

Увімкніть потокову передачу, встановивши stream=true. Сервер повертає події Server-Sent Events (SSE). Дані про використання токенів з'являються в останньому чанку потоку. Це дозволяє відстежувати витрати в реальному часі, не чекаючи повної відповіді.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmdolphin.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Виклик функцій & Режим JSON

Модель підтримує виклик функцій із визначенням інструментів. Ви також можете примусово використовувати формат JSON за допомогою response_format. Це забезпечує стабільне парсингування для ваших автоматизованих конвеєрів. Визначайте інструменти в масиві messages або об’єкті запиту.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Параметри: Temperature, Top P, Seed

Контролюйте творчість з temperature та різноманітність з top_p. Використовуйте seed для відтворюваних виводів. Модель приймає стандартні параметри, такі як послідовності стопу та штраф за наявність. Налаштуйте ці значення відповідно до вашого конкретного випадку використання.

Обробка помилок та лімітів частоти запитів

Вирішуйте помилки 401 для недійсних ключів та 402 для недостатності кредитів. Ліміти швидкості становлять 300 запитів на хвилину. Контекстне вікно становить 100 000 токенів. Помилки та відмови не споживають кредит. Перевіряйте статус відповіді для отримання деталей.