Quickstart API Dolphin llm

Autentificare & Configurare URL de Bază

API-ul utilizează autentificare standard cu token Bearer. Primești cheia imediat după înscriere cu Google sau o adresă de email. Stoați această cheie în siguranță în variabilele de mediu. Toate cererile trebuie să vizeze URL-ul de bază dedicat pentru modelul necenzurat.

• URL de bază: HTTPS://api.llmdolphin.com/v1
• Header Auth: Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llmdolphin.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to 5"}]
  }'

Endpoint-ul Chat Completări

Trimite prompturi text către endpoint-ul POST /v1/chat/completions. ID-ul modelului este 'uncensored'. Poți stream-ui răspunsurile sau să le primești ca blocuri de text complete. API acceptă formate standard de mesaje cu roluri system, user și assistant.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmdolphin.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Răspunsuri în streaming și consumul de tokeni

Activați fluxul de date setând stream=true. Serverul returnează Evenimente trimise de server (SSE). Datele de utilizare a tokenilor apar în ultimul fragment al fluxului. Acest lucru vă permite să urmăriți costurile în timp real fără a aștepta răspunsul complet.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmdolphin.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Apelarea funcțiilor & Mod JSON

Modelul suportă function calling cu definiții de instrumente. Poți forța, de asemenea, output-ul JSON folosind response_format. Acest lucru asigură o analiză consistentă pentru pipeline-urile tale de automatizare. Definește instrumentele în array-ul messages sau în obiectul de solicitare.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Parametri: Temperatură, Top P, Seed

Controlează creativitatea cu temperature și diversitatea cu top_p. Folosește seed pentru ieșiri reproductibile. Modelul acceptă parametri standard precum secvențele de oprire și penalizarea prezenței. Ajustează aceste valori pentru a se potrivi cazului tău specific de utilizare.

Gestionarea erorilor & Limite de rată

Gestionează erorile 401 pentru chei invalide și 402 pentru credit insuficient. Limitele de rată sunt de 300 de cereri pe minut. Fereastra de context este de 100.000 de tokeni. Erorile și refuzurile nu consumă credit. Verifică statusul răspunsului pentru detalii.