डॉल्फिन llm एपीआई क्विकस्टार्ट

प्रमाणीकरण और बेस यूआरएल सेटअप

API मानक Bearer टोकन प्रमाणीकरण का उपयोग करती है। आप Google या ईमेल पता से साइन अप करने के तुरंत बाद अपनी कुंजी प्राप्त करते हैं। इस कुंजी को अपने एनवायरनमेंट वेरिएबल्स में सुरक्षित रूप से संग्रहीत करें। सभी अनुरोध अनसेंसर्ड मॉडल के लिए समर्पित बेस यूएल को लक्षित करने चाहिए।

• बेस URL: HTTPS://api.llmdolphin.com/v1
• Auth हेडर: Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llmdolphin.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to 5"}]
  }'

चैट कंप्लीशंस एंडपॉइंट

POST /v1/chat/completions एंडपॉइंट पर टेक्स्ट प्रॉम्प्ट भेजें। मॉडल आईडी 'uncensored' है। आप प्रतिक्रियाओं को स्ट्रीम कर सकते हैं या उन्हें पूर्ण टेक्स्ट ब्लॉक के रूप में प्राप्त कर सकते हैं। API सिस्टम, उपयोगकर्ता, और सहायक भूमिकाओं के साथ मानक संदेश प्रारूपों को स्वीकार करता है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmdolphin.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

स्ट्रीमिंग रिस्पॉन्सेस और टोकन उपयोग

स्ट्रीमिंग को सक्षम करने के लिए stream=true सेट करें। सर्वर Server-Sent Events (SSE) लौटाता है। स्ट्रीम के अंतिम चंक में टोकन उपयोग डेटा दिखाई देता है। यह आपको पूर्ण प्रतिक्रिया का इंतजार किए बिना लागत को रियल-टाइम में ट्रैक करने की अनुमति देता है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmdolphin.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

फंक्शन कॉलिंग & JSON मोड

मॉडल टूल परिभाषाओं के साथ फंक्शन कॉलिंग का समर्थन करता है। आप response_format का उपयोग करके JSON आउटपुट को भी लागू कर सकते हैं। यह आपके ऑटोमेशन पाइपलाइन्स के लिए स्थिर पार्सिंग सुनिश्चित करता है। टूल को messages एरे या रिक्वेस्ट ऑब्जेक्ट में परिभाषित करें।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

पैरामीटर: तापमान, Top P, और Seed

तापमान के साथ रचनात्मकता और top_p के साथ विविधता को नियंत्रित करें। पुनरुत्पादक आउटपुट के लिए बीज का उपयोग करें। मॉडल स्टॉप सीक्वेंसेट और उपस्थिति पेनल्टी जैसे मानक पैरामीटर स्वीकार करता है। इन मानों को अपनी विशिष्ट उपयोग मामले के अनुसार समायोजित करें।

त्रुटि हैंडलिंग & रेट लिमिट

अमान्य कुंजियों के लिए 401 त्रुटियां और अपर्याप्त क्रेडिट के लिए 402 त्रुटियां हैं। दर सीमाएं प्रति मिनट 300 अनुरोध हैं। संदर्भ विंडो 100,000 टोकन है। त्रुटियां और अस्वीकृतियां क्रेडिट का उपभोग नहीं करती हैं। विवरण के लिए प्रतिक्रिया स्थिति की जांच करें।