Basis-URL en authenticatie
Verbind met onze openai compatibele API door je clientconfiguratie bij te werken om te verwijzen naar https://api.openaicompatibleapiendpoints.com/v1. Je hebt een geldige API-sleutel nodig die wordt verzonden in de Authorization header als een Bearer-token. Deze setup werkt met de officiële OpenAI SDK's en elke compatibele clientbibliotheek. Er is geen complexe gateway-configuratie vereist.
curl https://api.openaicompatibleapiendpoints.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Return 500 status code"}]
}'Elke request moet je unieke sleutel bevatten. Als de sleutel ontbreekt of ongeldig is, retourneert de server direct een 401-fout. Dit zorgt ervoor dat je calls de juiste uncensored LLM bereiken zonder routingvertragingen.
Chat Completions Endpoint
Stuur berichten naar de POST /v1/chat/completions endpoint om tekstantwoorden te ontvangen van de uncensored model. Dit endpoint verwerkt standaard conversatierondes en ondersteunt een contextvenster van maximaal 100.000 tokens. Je kunt een maximale output instellen van 16.000 tokens per verzoek. Het model antwoordt zonder contentweigeringen voor wettelijke volwassen onderwerpen.
from openai import OpenAI
client = OpenAI(base_url="https://api.openaicompatibleapiendpoints.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Gebruik de standaard messages array-indeling. De API negeert extra velden die het niet herkent, wat migratie eenvoudig maakt. Je betaalt alleen voor tokens die daadwerkelijk door het model zijn verbruikt.
Streaming-responsen
Real-time tokenlevering inschakelen door stream: true in je verzoek. De server stuurt een reeks Server-Sent Events (SSE) totdat het antwoord compleet is. Gebruiksstatistieken voor tokens verschijnen in de laatste chunk van de stream. Dit vermindert de waargenomen latentie voor gebruikers die wachten op lange antwoorden.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Buffer de inkomende tokens aan de clientkant om de volledige tekst te reconstrueren. Fouten tijdens streaming zijn zeldzaam, maar moeten worden afgehandeld door het laatste evenement te controleren op een foutcode. De stream stopt automatisch wanneer de contextlimiet of max tokens wordt bereikt.
JSON-modus en tools
Forceer gestructureerde uitvoer door response_format naar {"type": "json_object"}. Dit zorgt ervoor dat het model geldige JSON retourneert in plaats van markdown-tekst. Je kunt ook de tools parameter voor function calling. De API ondersteunt tool_choice voor precieze controle over welke functies het model aanroept.
Gebruik temperature en top_p aanpassen van randomness. Stel seed voor reproduceerbare resultaten tijdens het debuggen. Deze parameters werken exact zoals verwacht in standaard OpenAI-compatible integraties.
Fouthantering en Limieten
Verwerk standaard HTTP-fouten om client-side fouten soepel af te handelen. Een 401-status betekent dat je API-sleutel ongeldig is. Een 402-status geeft aan dat je vooruitbetaalde krediet op is. Een 429-fout signaleert dat je de limiet van 300 verzoeken per minuut hebt overschreden.
Elke sleutel staat acht gelijktijdige verzoeken toe. De verzoekbody is beperkt tot 8 MB. Er worden geen refunds uitgegeven voor gebruikt krediet, maar fouten tijdens verwerking zijn gratis. Controleer altijd de error object in de JSON-respons voor details.
Contextvenster en modeldetails
Het model ondersteunt een contextvenster van 100.000 tokens voor zowel prompt als completion samen. Dit stelt je in staat diepe contextbewaring voor lange documenten of uitgebreide gesprekken. De standaard maximale uitvoer is 2.048 tokens als je dit niet specificeert max_tokens. Je kunt dit verhogen tot 16.000 tokens per request.
Het model is geen GPT, Claude of een ander leveranciersmodel. Het is een open-weight model afgestemd op ongefilterde antwoorden. Gegevens uit je prompts worden niet gebruikt voor training. Dit zorgt voor privacy van je eigendomsgegevens.
Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openaicompatibleapiendpoints.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);