ผสาน Uncensored LLM API ในไม่กี่นาที

ติดตั้ง Official SDK ของ OpenAI

เริ่มต้นด้วยการเพิ่มไลบรารีไคลเอนต์ลงในสภาพแวดล้อมโปรเจกต์ของคุณ สิ่งนี้ทำให้เข้ากันได้กับรูปแบบคำขอและโปรโตคอลสตรีมมาตรฐานโดยไม่ต้องใช้ตรรกะ HTTP แบบกำหนดเอง

แพ็คเกจจัดการหัวข้อความถูกต้องและ JSON serialization โดยอัตโนมัติ คุณสามารถดำเนินการไปยังการกำหนดค่าได้ทันทีหลังจากแก้ข้อพึ่งพาในพื้นที่ทำงานของคุณ

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.unlimitedllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

กำหนดค่า URL พื้นฐานและคีย์ API

กำหนดการจราจรไปยังจุดปลายของเราโดยการตั้งค่า base_url ตัวแปรและฉีดคีย์เฉพาะของคุณลงในไคลเอนต์อินสแตนซ์ การสลับง่ายๆ นี้เปลี่ยนเส้นทางคำขอไปยังโมเดล uncensored ที่ปรับแต่งของเราโดยไม่เปลี่ยนโครงสร้างโค้ดของคุณ

ตรวจสอบการเชื่อมต่อโดยตรวจสอบ /v1/models endpoint ระบบจะส่งคืนตัวระบุโมเดลที่พร้อมใช้งาน เพื่อยืนยันว่าข้อมูลประจำตัวของคุณถูกต้องและเส้นทางการเชื่อมต่อเครือข่ายเปิดอยู่

Copycurl https://api.unlimitedllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all available endpoints for user authentication"}]
  }'

ส่งคำขอ Chat Completion ครั้งแรกของคุณ

สร้างโหลดข้อมูลการสร้างการสนทนามาตรฐานพร้อม ID โมเดล uncensored และอาร์เรย์ข้อความที่คุณต้องการ API ประมวลผลข้อความนำเข้าและส่งกลับข้อความที่สร้างรองรับพารามิเตอร์เช่น temperature และ top_p สำหรับการควบคุมโทนเสียง

ตรวจสอบให้แน่ใจว่า body ของคำขอของคุณอยู่ในขีดจำกัด 8 MB ระบบรับวัตถุ JSON มาตรฐานและส่งกลับโครงสร้างข้อมูลที่แอปพลิเคชันของคุณสามารถแยกวิเคราะห์ได้ทันที

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.unlimitedllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

จัดการการตอบกลับแบบสตรีมและการใช้ tokens

เปิดใช้งานการสตรีมโดยการตั้งค่า stream ตั้งค่าเป็น true จะทำให้ส่งข้อมูลแบบ Server-Sent Events (SSE) ซึ่งช่วยให้อินเทอร์เฟซของคุณแสดงผลลัพธ์แบบ token-by-token ได้ทันทีที่โมเดลสร้างข้อความ

สถิติการใช้โทเค็นปรากฏในชิ้นสุดท้ายของสตรีม วิธีการนี้ลดความล่าช้าที่รับรู้สำหรับผู้ใช้ ในขณะที่ทำให้การเรียกเก็บเงินของคุณแม่นยำตามการบริโภคจริง

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

เปิดใช้งาน Function Calling และโหมด JSON

เปิดใช้งาน structured outputs โดยตั้งค่า response_format เพื่อ {"type": "json_object"}. สิ่งนี้บังคับให้โมเดลส่งกลับ JSON ที่ถูกต้องอย่างเคร่งครัด ซึ่งจำเป็นสำหรับการผสานรวมที่เชื่อถือได้กับฟอร์มหน้าเว็บหรือบริการแบ็กเอนด์

คุณสามารถกำหนดเครื่องมือใน body ของคำขอของคุณเพื่อเปิดใช้งานการเรียกใช้ฟังก์ชัน โมเดลจะตอบสนองด้วยชื่อฟังก์ชันเฉพาะและอาร์กิวเมนต์ ทำให้โค้ดของคุณสามารถดำเนินการลอจิกภายนอกได้ตามเจตนาของผู้ใช้

ทำความเข้าใจขีดจำกัดอัตราและขนาดบริบท

คีย์ API ของคุณรองรับ 300 การร้องขอต่อนาที และสูงสุด 8 การร้องขอพร้อมกัน หากเกินขีดจำกัดเหล่านี้ ระบบจะส่งข้อผิดพลาด 429 จนกว่าหน้าต่างเวลาจะรีเซ็ต

หน้าต่างบริบทรองรับได้รวม 100,000 tokens รวมถึงทั้ง prompt และ completion การ output จะจำกัดที่ 16,000 tokens ต่อ request หรือ 2,048 tokens หากคุณไม่ได้ระบุ max_tokens. ข้อผิดพลาดและการปฏิเสธไม่ใช้เครดิต