Γρήγορη Έναρξη για ενσωμάτωση ανεξέλεγκτου API

Βασικό URL και Αυθεντικοποίηση

Συνδεθείτε στο openai compatible API ενημερώνοντας τη διαμόρφωση του client σας για να δείχνει στο https://api.openaicompatibleapiendpoints.com/v1.Χρειάζεστε ένα έγκυρο API key που στέλνεται στο Authorization header ως Bearer token. Αυτή η ρύθμιση λειτουργεί με τις επίσημες βιβλιοθήκες OpenAI SDK και οποιαδήποτε συμβατή βιβλιοθήκη πελάτη. Δεν απαιτείται σύνθετη διαμόρφση gateway.

Copycurl https://api.openaicompatibleapiendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return 500 status code"}]
  }'

Κάθε αίτημα πρέπει να περιλαμβάνει το μοναδικό σας κλειδί. Αν το κλειδί λείπει ή είναι άκυρο, ο διακομιστής επιστρέφει σφάλμα 401 αμέσως. Αυτό διασφαλίζει ότι οι κλήσεις σας φτάνουν στο σωστό uncensored LLM χωρίς καθυστερήσεις διαδρομής.

Τερματικό Συμπληρώματος Συζήτησης

Στείλτε μηνύματα στο POST /v1/chat/completions σημείο τερματισμού (endpoint) για λήψη απαντήσεων κειμένου από το uncensored μοντέλο. Αυτό το endpoint διαχειρίζεται τυπικές στροφές συνομιλίας και υποστηρίζει παράθυρο περιεχομένου έως 100.000 tokens. Μπορείτε να ορίσετε μέγιστη έξοδο 16.000 tokens ανά αίτηση. Το μοντέλο απαντά χωρίς απορρίψεις περιεχομένου για νόμιμα θέματα ενήλικων.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapiendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Χρησιμοποιήστε το τυπικό messages array format. Το API αγνοεί επιπλέον πεδία που δεν αναγνωρίζει, διευκολύνοντας τη μετοίκιση. Πληρώνετε μόνο για tokens που καταναλώθηκαν πραγματικά από το μοντέλο.

Streaming Αποκρίσεις

Ενεργοποίηση παράδοσης token σε πραγματικό χρόνο ορίζοντας stream: true στην αίτησή σας. Ο διακομιστής στέλνει μια σειρά από Server-Sent Events (SSE) μέχρι να ολοκληρωθεί η απάντηση. Τα στατιστικά χρήσης tokens εμφανίζονται στο τελικό τμήμα της ροής. Αυτό μειώνει την αντιλαμβανόμενη καθυστέρηση για τους χρήστες που περιμένουν μακροχρόνιες απαντήσεις.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Bufferάρετε τα incoming tokens στην client πλευρά για να ανακατασκευάσετε το πλήρες κείμενο. Τα σφάλματα κατά το streaming είναι σπάνια αλλά πρέπει να διαχειρίζονται ελέγχοντας το τελικό event για κωδικό σφάλματος. Το stream σταματά αυτόματα όταν φτάσει το όριο context ή max tokens.

Λειτουργία JSON και Εργαλεία

Εξαναγκασμός δομημένης εξόδου ορίζοντας response_format για {"type": "json_object"}. Αυτό εξασφαλίζει ότι το μοντέλο επιστρέφει έγκυρο JSON αντί για κείμενο markdown. Μπορείτε επίσης να χρησιμοποιήσετε το tools η παράμετρος για κλήση συναρτήσεων. Η API υποστηρίζει tool_choice για ακριβή έλεγχο των συναρτήσεων που καλεί το μοντέλο.

Χρήση temperature και top_p για προσαρμογή της τυχαιότητας. Ορίστε seed για αναπαραγώγιμα αποτελέσματα κατά τον εντοπισμό σφαλμάτων. Αυτές οι παράμετροι λειτουργούν ακριβώς όπως αναμένεται σε τυπικές ενσωματώσεις συμβατές με την OpenAI.

Χειρισμός Σφαλμάτων και Όρια

Διαχειριστείτε τυπικά σφάλματα HTTP για να διαχειριστείτε τις αποτυχίες στον πελάτη με επιτυχία. Η κατάσταση 401 σημαίνει ότι το κλειδί API σας είναι άκυρο. Η κατάσταση 402 υποδεικνύει ότι το προπληρωμένο υπόλοιπό σας εξαντλήθηκε. Το σφάλμα 429 σηματοποιεί ότι έχετε υπερβεί το όριο των 300 αιτήσεων ανά λεπτό.

Κάθε κλειδί επιτρέπει οκτώ ταυτόχρονες αιτήσεις. Το σώμα του αιτήματος περιορίζεται στα 8 MB. Δεν εκδίδονται επιστροφές χρημάτων για χρησιμοποιημένο πιστωτικό ισοζύγιο, αλλά τα σφάλματα κατά την επεξεργασία είναι δωρεάν. Ελέγξτε πάντα το error αντικείμενο στην απάντηση JSON για λεπτομέρειες.

Παράθυρο Συμφραζομένων και Λεπτομέρειες Μοντέλου

Το μοντέλο υποστηρίζει παράθυρο πλαισίου 100.000 tokens για prompt και completion συνδυαστικά. Αυτό επιτρέπει βαθιά διατήρηση πλαισίου για μακροσκελή έγγραφα ή εκτεταμένες συνομιλίες. Η προεπιλεγμένη μέγιστη έξοδος είναι 2.048 tokens αν δεν καθορίσετε max_tokens. Μπορείτε να αυξήσετε αυτό το όριο έως τα 16,000 tokens ανά αίτημα.

Το μοντέλο δεν είναι GPT, Claude ή οποιοδήποτε άλλο μοντέλο παρόχου. Είναι ένα μοντέλο ανοιχτού βάρους (open-weight) ρυθμισμένο για uncensored απαντήσεις. Δεν χρησιμοποιούνται δεδομένα από τις αιτήσεις σας για εκπαίδευση. Αυτό διασφαλίζει την ιδιωτικότητα για τα ιδιόκτητα δεδομένα σας.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapiendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);