Bas URL och autentisering
Anslut till vår openai kompatibel API genom att uppdatera din klientkonfiguration för att peka på https://api.openaicompatibleapiendpoints.com/v1. Du behöver en giltig API-nyckel skickad i Authorization header som ett Bearer-token. Denna uppsättning fungerar med officiella OpenAI SDK:er och kompatibla klientbibliotek. Ingen komplex gateway-konfiguration krävs.
curl https://api.openaicompatibleapiendpoints.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Return 500 status code"}]
}'Varje begäran måste inkludera din unika nyckel. Om nyckeln saknas eller är ogiltig returnerar servern ett 401-fel omedelbart. Detta säkerställer att dina anrop når rätt icke-censurerad LLM utan ruttningsfördröjningar.
Slutpunkt för chattkomplettering
Skicka meddelanden till POST /v1/chat/completions slutpunkt för att få textsvar från uncensored modellen. Denna slutpunkt hanterar standard konversationella vändor och stöder upp till ett 100 000-token kontextfönster. Du kan ange en maximal utmatning på 16 000 token per förfrågan. Modellen svarar utan innehållsavslag för lagliga vuxentemata.
from openai import OpenAI
client = OpenAI(base_url="https://api.openaicompatibleapiendpoints.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Använd den standardiserade messages arrayformat. API:et ignorerar extra fält det inte känner igen, vilket gör migration enkel. Du betalar endast för tokens som faktiskt konsumeras av modellen.
Strömningsresponser
Aktivera realtidsleverans av tokens genom att ställa in stream: true i ditt begäran. Servern skickar en serie Server-Sent Events (SSE) tills svaret är komplett. Tokenanvändningsstatistik visas i den sista biten av strömmen. Detta minskar den upplevda latensen för användare som väntar på långa svar.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Buffra de inkommande tokenerna på klientidan för att rekonstruera hela texten. Fel under streaming är sällsynta men bör hanteras genom att kontrollera den sista händelsen för ett felkod. Strömmen stoppas automatiskt när kontextgränsen eller max tokens nås.
JSON-läge och verktyg
Tvinga strukturerad utdata genom att ställa in response_format för {"type": "json_object"}. Detta säkerställer att modellen returnerar giltig JSON istället för markdown-text. Du kan också använda tools parametern för funktionssammanfallande funktioner. API:et stöder tool_choice för exakt kontroll över vilka funktioner modellen anropar.
Använd temperature och top_p till att justera slumpmässigheten. Ställ in seed för reproducerbara resultat under felsökning. Dessa parametrar fungerar exakt som förväntat i standard OpenAI-kompatibla integrationer.
Felfhantering och begränsningar
Hantera standard HTTP-fel för att hantera klientfel smidigt. En 401-status betyder att din API-nyckel är ogiltig. En 402-status indikerar att din förbetala kredit är slut. Ett 429-fel signalerar att du har överskridit gränsen på 300 begäranden per minut.
Varje nyckel tillåter åtta samtidiga förfrågningar. Förfrågningskroppen är begränsad till 8 MB. Återbetalningar utfärdas inte för använd kredit, men fel under bearbetning är gratis. Kontrollera alltid error objekt i JSON-svaret för detaljer.
Kontextfönster och modellinformation
Modellen stöder ett kontextfönster på 100 000 token för både prompt och completion tillsammans. Detta möjliggör djup kontextbevarande för långa dokument eller utdragna konversationer. Standardmaximum för utmatning är 2 048 token om du inte anger max_tokens. Du kan öka detta till 16 000 tokens per förfrågan.
Modellen är inte GPT, Claude eller någon annan leverantörs modell. Det är en modell med öppna vikter justerad för o censorerade svar. Ingen data från dina prompter används för träning. Detta säkerställer integritet för din proprietära data.
Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openaicompatibleapiendpoints.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);