Integrasikan API LLM Tanpa Sensor dalam Beberapa Minit

Pasang SDK Rasmi OpenAI

Mulakan dengan menambah pustaka klien ke persekitaran projek anda. Ini memastikan keserasian dengan format permintaan standard dan protokol penstriman tanpa memerlukan logik HTTP tersuai.

Pakej mengendalikan header pengesahan dan pengisihan JSON secara automatik. Anda boleh meneruskan ke konfigurasi sekali kebergantungan diselesaikan dalam ruang kerja anda.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.unlimitedllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Konfigurasikan URL Asas dan Kunci API

Arahkan trafik ke hujung kami dengan menetapkan base_url pemboleh ubah dan menyuntik kunci unik anda ke dalam instance klien. Pertukaran mudah ini mengarahkan permintaan ke model uncensored dioptimumkan kami tanpa mengubah struktur kod anda.

Sahkan sambungan dengan memeriksa /v1/models endpoint. Sistem ini mengembalikan pengenal model yang tersedia, mengesahkan bahawa kelayakan anda adalah sah dan laluan rangkaian adalah terbuka.

Copycurl https://api.unlimitedllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all available endpoints for user authentication"}]
  }'

Hantar Permintaan Penyelesaian Chat Pertama Anda

Bina beban kerja penyelesaian chat standard dengan ID model uncensored dan array mesej yang anda inginkan. API memproses input teks dan mengembalikan teks yang dijana, menyokong parameter seperti temperature dan top_p untuk kawalan nada.

Pastikan badan permintaan anda berada dalam had 8 MB. Sistem menerima objek JSON standard dan memulangkan respons terstruktur yang aplikasi anda boleh uraikan serta-merta.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.unlimitedllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tangani Respons Penstriman dan Penggunaan Token

Aktifkan penstriman dengan menetapkan stream flag kepada true. Ini mengembalikan kepingan Acara yang Dihantar Pelayan (SSE), membolehkan antaramuka anda memaparkan token secara progresif semasa penjanaan.

Statistik penggunaan token muncul dalam segmen akhir aliran. Pendekatan ini mengurangkan latensi yang dirasakan untuk pengguna sambil mengekalkan ketepatan bil berdasarkan penggunaan sebenar.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Dayakan Pemanggilan Fungsi dan Mod JSON

Aktifkan output terstruktur dengan menetapkan response_format ke {"type": "json_object"}. Ini memaksa model mengembalikan JSON yang sah dengan ketat, yang amat penting untuk integrasi yang boleh dipercayai dengan borang frontend atau perkhidmatan backend.

Anda juga boleh menentukan alat dalam badan permintaan anda untuk membolehkan pemanggilan fungsi. Model menanggapi dengan nama fungsi dan hujah khusus, membolehkan kod anda melaksanakan logik luaran berdasarkan niat pengguna.

Memahami Had Kadar dan Tetingkap Konteks

Kunci API anda menyokong 300 permintaan setiap minit dan sehingga 8 permintaan serentak serentak. Jika anda melebihi had ini, sistem akan mengembalikan ralat 429 sehingga tetingkap masa ditetapkan semula.

Jendela konteks membolehkan jumlah token sebanyak 100,000, termasuk prompt dan penyelesaian. Output dihadkan kepada 16,000 token setiap permintaan, atau 2,048 token jika anda tidak menentukan max_tokensRalat dan penolakan tidak menggunakan kredit.