Rychlý start API Dolphin llm

Ověření & nastavení základní URL

API používá standardní autentizaci Bearer tokenem. Klíč obdržíte ihned po registraci pomocí Google nebo e-mailové adresy. Uložte tento klíč bezpečně do proměnných prostředí. Všechny požadavky musí cílit na vyhrazenou základní URL pro uncensored model.

• Základní URL: HTTPS://api.llmdolphin.com/v1
• Hlavička Auth: Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llmdolphin.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to 5"}]
  }'

Koncový bod Chat Completions

Odesílejte textové prompty na endpoint POST /v1/chat/completions. ID modelu je 'uncensored'. Můžete streamovat odpovědi nebo je přijímat jako plné textové bloky. API přijímá standardní formáty zpráv s rolemi system, user a assistant.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmdolphin.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streamované odpovědi a spotřeba tokenů

Povolte streamování nastavením stream=true. Server vrací události Server-Sent Events (SSE). Data o využití tokenů se objeví v posledním chunku streamu. To vám umožňuje sledovat náklady v reálném čase bez čekání na úplnou odpověď.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmdolphin.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Volání funkcí & Režim JSON

Model podporuje volání funkcí s definicemi nástrojů. Pomocí response_format můžete také vynutit výstup ve formátu JSON. To zajišťuje konzistentní parsování pro vaše automatizační pipeline. Definice nástrojů zadejte do pole messages nebo do objektu požadavku.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Parametry: Teplota, Top P, Seed

Ovládejte kreativitu pomocí teploty a rozmanitost pomocí top_p. Použijte seed pro reprodukovatelné výstupy. Model přijímá standardní parametry, jako jsou sekvence stop a penalizace přítomnosti. Upravte tyto hodnoty tak, aby odpovídaly vašemu konkrétnímu případu použití.

Zpracování chyb & Omezení rychlosti

Řešte chyby 401 pro neplatné klíče a 402 pro nedostatek kreditu. Limity rychlosti jsou 300 požadavků za minutu. Kontextové okno je 100 000 tokenů. Chyby a odmítnutí nepožívají kredit. Pro podrobnosti zkontrolujte stav odpovědi.