Integroi Suodattamaton LLM API minuuteissa

Asenna virallinen OpenAI SDK

Aloita lisäämällä asiakirajastin projektisi ympäristöön. Tämä varmistaa yhteensopivuuden vakiopyyntömuotojen ja streamausprotokollien kanssa ilman, että tarvitset mukautettua HTTP-logiikkaa.

Paketti käsittelee autentikointipäätteet ja JSON-sarjallistuksen automaattisesti. Voit siirtyä kokoonpanoon riippuvuuden ratkaistuaan työtilassasi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.unlimitedllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Määritä base URL ja API-avain

Ohjaa liikenne päätepisteeseemme asettamalla base_url muuttujaa ja ruiskuttamalla ainutlaatuisen avasi asiakasinstanssiin. Tämä yksinkertainen vaihto ohjaa pyynnöt optimoituun uncensored-malliimme ilman rakenteellisia muutoksia koodissa.

Vahvista yhteys tarkistamalla /v1/models päätepiste. Järjestelmä palauttaa käytettävissä olevan mallitunnuksen, mikä vahvistaa, että kirjautumistietosi ovat kelvollisia ja verkkoyhteys on auki.

Copycurl https://api.unlimitedllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list all available endpoints for user authentication"}]
  }'

Lähetä ensimmäinen chat-valmispyyntösi

Rakenna standardi chat-täydennyspayloadi mallitunnuksella uncensored ja haluamasi viestitaulukon. API käsittelee tekstisyötteen ja palauttaa luodun tekstin, tuken parametreja kuten temperature ja top_p sävyn hallintaan.

Varmista, että pyynnön runko pysyy 8 Mt:n rajan sisällä. Järjestelmä hyväksyy vakio-JSON-objekteja ja palauttaa rakenteellisia vastauksia, jotka sovelluksesi voi jäsentää välittömästi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.unlimitedllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Käsittele suorantovastaukset ja tokenien käytön

Ota virtauskäyttöön asettamalla stream arvoon true. Tämä palauttaa Server-Sent Eventsin (SSE) palautuksia, mikä mahdollistaa käyttöliittymän näyttää tokenit progressiivisesti niiden generoitumisen aikana.

Token-käystilastot ilmestyvät streamin lopulliseen palaseen. Tämä lähestymistapa vähentää käyttäjien havaitsemaa viivettä ja pitää laskutuksen tarkkana todellisen kulutuksen perusteella.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ota Function Calling ja JSON-tila käyttöön

Ota rakenteelliset ulostulot käyttöön asettamalla response_format vastaan {"type": "json_object"}. Tämä pakottaa mallin palauttamaan tiukasti kelvollista JSONia, mikä on olennaista luotettavaan integraatioon etusivulomakkeiden tai taustapalveluiden kanssa.

Voit myös määritellä työkaluja pyyntöruudussasi funktion kutsumisen aktivoimiseksi. Malli vastaa tiettyillä funktioiden nimillä ja argumenteilla, mikä mahdollistaa koodisi suorittaa ulkoista logiikkaa käyttäjän aikomuksen perusteella.

Ymmärrä nopeusrajoitukset ja kontekstikkoneet

API-avaimesi tukee 300 pyyntöä minuutissa ja jopa 8 samanaikaista pyyntöä. Jos ylität nämä rajat, järjestelmä palauttaa virhekoodin 429, kunnes ikkuna nollautuu.

Kontekstiluukku tukee yhteensä 100 000 tokenia, mukaan lukien sekä prompt että completion. Tulostus on rajoitettu 16 000 tokeniin per pyyntö tai 2 048 tokeniin, jos et määritä sitä. max_tokens. Virheet ja hylkäykset eivät kuluta krediittiä.