Base URL 및 인증
다음에 연결 openai compatible API 클라이언트 구성을 업데이트하여 https://api.openaicompatibleapiendpoints.com/v1. 유효한 API 키가 포함되어야 합니다. Authorization Bearer 토큰으로 헤더를 사용합니다. 이 설정은 공식 OpenAI SDK 및 모든 호환 클라이언트 라이브러리에서 작동합니다. 복잡한 게이트웨이 구성이 필요하지 않습니다.
curl https://api.openaicompatibleapiendpoints.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Return 500 status code"}]
}'모든 요청에는 고유한 키가 포함되어야 합니다. 키가 누락되었거나 유효하지 않으면 서버가 즉시 401 오류를 반환합니다. 이는 호출이 라우팅 지연 없이 올바른 Uncensored LLM에 도달하도록 보장합니다.
채팅 완료 엔드포인트
다음으로 메시지 전송 POST /v1/chat/completions uncensored 모델로부터 텍스트 응답을 받는 엔드포인트입니다. uncensored 모델입니다. 이 엔드포인트는 표준 대화 턴을 처리하며 최대 100,000개의 토큰 컨텍스트 창을 지원합니다. 요청당 최대 출력은 16,000개의 토큰으로 설정할 수 있습니다. 모델은 합법적인 성인 주제에 대해 콘텐츠 거부를 하지 않고 답변합니다.
from openai import OpenAI
client = OpenAI(base_url="https://api.openaicompatibleapiendpoints.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)표준 messages 배열 형식입니다. API는 인식하지 못하는 추가 필드를 무시하므로 마이그레이션이 쉽습니다. 모델이 실제로 소모한 토큰에 대해서만 요금이 부과됩니다.
스트리밍 응답
다음 설정하여 실시간 토큰 전달 활성화 stream: true 요청에 포함됩니다. 서버는 응답이 완료될 때까지 일련의 서버 전송 이벤트(SSE)를 전송합니다. 토큰 사용량 통계는 스트림의 마지막 청크에 나타납니다. 이는 긴 답변을 기다리는 사용자의 지각된 지연 시간을 줄여줍니다.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)클라이언트 측에서 들어오는 토큰을 버퍼링하여 전체 텍스트를 복원하세요. 스트리밍 중 오류는 드물지만 마지막 이벤트의 오류 코드를 확인하여 처리해야 합니다. 컨텍스트 제한 또는 최대 토큰에 도달하면 스트림이 자동으로 중지됩니다.
JSON 모드 및 도구
설정하여 구조화된 출력 강제 response_format 수신하여 {"type": "json_object"}모델이 마크다운 텍스트 대신 유효한 JSON을 반환하도록 보장합니다. 다음을 사용할 수도 있습니다. tools 함수 호출을 위한 매개변수입니다. API는 tool_choice 모델이 호출할 함수를 정밀하게 제어하기 위해
사용 temperature 및 top_p 무작위성을 조정하세요. 다음을 설정하세요 seed 디버깅 중 재현 가능한 결과를 위해 이러한 매개변수는 표준 OpenAI 호환 통합에서 기대하는 대로 정확히 작동합니다.
오류 처리 및 제한
클라이언트 측 실패를 우아하게 관리하기 위한 표준 HTTP 오류 처리. 401 상태는 API 키가 유효하지 않음을 의미합니다. 402 상태는 선불 크레딧이 고갈되었음을 나타냅니다. 429 오류는 분당 300회 요청 제한을 초과했음을 신호합니다.
각 키는 8개의 동시 요청을 허용합니다. 요청 본문은 8 MB로 제한됩니다. 사용된 크레딧에 대해서는 환불이 제공되지 않지만, 처리 중 오류가 발생하면 무료입니다. 항상 확인하세요. error JSON 응답의 object에서 세부 정보를 확인하세요.
컨텍스트 윈도우 및 모델 세부 정보
이 모델은 프롬프트와 응답의 합계 기준 100,000개의 토큰 컨텍스트 윈도우를 지원합니다. 이를 통해 긴 문서나 확장된 대화에 대한 깊은 컨텍스트 보존이 가능합니다. max_tokens을 지정하지 않으면 기본 최대 출력은 2,048개 토큰입니다. max_tokens. 요청당 최대 16,000토큰까지 늘릴 수 있습니다.
이 모델은 GPT, Claude 또는 기타 벤더 모델이 아닙니다. Uncensored 응답을 위해 튜닝된 오픈 웨이트 모델입니다. 프롬프트의 데이터는 학습에 사용되지 않습니다. 이는 독점 데이터의 프라이버시를 보장합니다.
Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openaicompatibleapiendpoints.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);