Dolphin llm API 빠른 시작

인증 및 Base URL 설정

API는 표준 Bearer 토큰 인증을 사용합니다. Google이나 이메일 주소로 가입하면 즉시 키를 받습니다. 이 키를 환경 변수에 안전하게 저장하십시오. 모든 요청은 비검열 모델의 전용 기본 URL을 대상으로 해야 합니다.

• Base URL: HTTPS://api.llmdolphin.com/v1
• Auth Header: Authorization: Bearer YOUR_API_KEY

Copycurl https://api.llmdolphin.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Set variable x to 5"}]
  }'

Chat Completions 엔드포인트

POST /v1/chat/completions 엔드포인트에 텍스트 프롬프트를 보내세요. 모델 id는 'uncensored'입니다. 응답을 스트리밍하거나 전체 텍스트 블록으로 받을 수 있습니다. API는 system, user, assistant 역할을 가진 표준 메시지 형식을 받습니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmdolphin.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

스트리밍 응답 및 토큰 사용량

요청에 stream=true를 설정하여 스트리밍을 활성화합니다. 서버는 서버 전송 이벤트(SSE)를 반환합니다. 스트림의 마지막 청크에는 토큰 사용량 데이터가 나타납니다. 이를 통해 전체 응답을 기다리지 않고 실시간으로 비용을 추적할 수 있습니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmdolphin.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

함수 호출 & JSON 모드

이 모델은 도구 정의를 통한 함수 호출을 지원합니다. response_format을 사용하여 JSON 출력을 강제할 수도 있습니다. 이를 통해 자동화 파이프라인에서 일관된 구문 분석이 보장됩니다. 도구 정의는 messages 배열 또는 요청 객체에 지정합니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

파라미터: Temperature, Top P, Seed

temperature로 창의성을 제어하고 top_p로 다양성을 제어하십시오. 재현 가능한 출력을 위해 seed를 사용하십시오. 이 모델은 stop 시퀀스 및 존재 페널티와 같은 표준 매개변수를 허용합니다. 이러한 값을 조정하여 특정 사용 사례에 맞게 조정하십시오.

오류 처리 & 속도 제한

잘못된 키의 경우 401 오류, 크레딧 부족의 경우 402 오류를 처리합니다. 속도 제한은 분당 300개 요청입니다. 컨텍스트 창은 100,000토큰입니다. 오류와 거부 사항은 크레딧을 소모하지 않습니다. 세부 정보는 응답 상태를 확인하세요.