URL Asas dan Pengesahan
Sambungkan ke API serasi OpenAI dengan mengemas kini konfigurasi klien anda untuk menunjuk ke https://api.openaicompatibleapiendpoints.com/v1. Anda memerlukan kunci API yang sah dihantar dalam Authorization pencap sebagai token Bearer. Tetapan ini berfungsi dengan SDK rasmi OpenAI dan mana-mana perpustakaan klien serasi. Tiada konfigurasi gerbang kompleks diperlukan.
curl https://api.openaicompatibleapiendpoints.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Return 500 status code"}]
}'Setiap permintaan mesti termasuk kunci unik anda. Jika kunci hilang atau tidak sah, pelayan mengembalikan ralat 401 serta-merta. Ini memastikan panggilan anda mencapai LLM uncensored yang betul tanpa kelewatan pengalihan.
Hujung Sambungan Penyelesaian Sembang
Hantar mesej ke POST /v1/chat/completions endpoint untuk mendapatkan respons teks daripada uncensored model. Hujung titik ini mengendalikan giliran perbualan standard dan menyokong sehingga jendela konteks 100,000 token. Anda boleh menetapkan output maksimum 16,000 token setiap permintaan. Model menjawab tanpa penolakan kandungan untuk topik dewasa yang sah.
from openai import OpenAI
client = OpenAI(base_url="https://api.openaicompatibleapiendpoints.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Gunakan standard messages array format. The API ignores extra fields it does not recognize, making migration easy. You only pay for tokens actually consumed by the model.
Respons Streaming
Aktifkan penghantaran token masa nyata dengan menetapkan stream: true dalam permintaan anda. pelayan menghantar siri Acara Dihantar Pelayan (SSE) sehingga respons lengkap. Statistik penggunaan token muncul dalam pecahan akhir penstriman. Ini mengurangkan latensi yang dirasakan untuk pengguna yang menunggu jawapan panjang.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Tampuk token masuk di sisi klien untuk membina semula teks penuh. Ralat semasa penstriman jarang berlaku tetapi harus ditangani dengan memeriksa acara terakhir untuk kod ralat. Aliran berhenti secara automatik apabila had konteks atau token maksimum dicapai.
Mod JSON dan Alat
Paksa output terstruktur dengan menetapkan response_format ke {"type": "json_object"}. Ini memastikan model mengembalikan JSON bukan teks markdown. Anda juga boleh menggunakan tools parameter untuk panggilan fungsi. API menyokong tool_choice untuk kawalan tepat atas fungsi mana model memanggil.
Gunakan temperature dan top_p untuk menyesuaikan keacakan. Tetapkan seed untuk keputusan yang boleh diulang semasa nyahpepijat. Parameter ini berfungsi tepat seperti yang diharapkan dalam integrasi sepadan OpenAI.
Pengendalian Ralat dan Had
Tangani ralat HTTP standard untuk menguruskan kegagalan sisi klien dengan baik. Status 401 bermaksud kunci API anda tidak sah. Status 402 menunjukkan kredit prabayar anda telah habis. Ralat 429 menandakan anda telah melebihi had 300 permintaan setiap minit.
Setiap kunci membolehkan lapan permintaan serentak. Badan permintaan dicalarkan pada 8 MB. Bayaran balik tidak dikeluarkan untuk kredit yang digunakan, tetapi ralat semasa pemprosesan adalah percuma. Sentiasa periksa error object dalam respons JSON untuk butiran.
Tetingkap Konteks dan Butiran Model
Model ini menyokong tetingkap konteks 100,000 token untuk gabungan prompt dan penyelesaian. Ini membolehkan pengekalan konteks mendalam untuk dokumen panjang atau perbualan berpanjangan. Output max lalai ialah 2,048 token jika anda tidak menentukan max_tokens. Anda boleh meningkatkan had ini sehingga 16,000 token setiap permintaan.
Model ini bukan GPT, Claude, atau mana-mana model vendor lain. Ia adalah model berat terbuka yang disesuaikan untuk respons tanpa sensor. Tiada data daripada prompt anda digunakan untuk latihan. Ini memastikan privasi untuk data milik anda.
Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.openaicompatibleapiendpoints.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);