Abliter API:n pika-aloitus

Perus-URL ja todennus

Yhdistä API:hin annetun base URL -osoitteen ja ainutlaatuisen API-avaimesi avulla. Päätepiste sijaitsee osoitteessa https://api.abliter.cc/v1Valtuutus header Bearer-tokenina. Tämä asetus toimii missä tahansa standardissa OpenAI-yhteensopivassa asiakas kirjastossa. Todennus on suoraviivaista: luo avaimesi hallintapaneelista ja liitä se koodiisi. Monimutkaisia OAuth-virtoja tai sekundäärisiä tokeneita ei tarvita peruspääsyyn. Avaimesi antaa välittömän pääsyn uncensored-mallin ominaisuuksiin.

Ensimmäisen pyynnön lähettäminen

Tee ensimmäinen kutsusi käyttäen vakio chat-täydennyspäätepistettä. Tämä pyyntö lähettää kehotteen ja vastaanottaa tekstimuotoisen vastauksen. Voit käyttää curlia tai mitä tahansa HTTP-asiakasta yhteyden testaamiseen. Mallin tunnus on uncensored. Varmista, että määrität mallin oikein tietopyynnössäsi. Tämä yksinkertainen rakenne mahdollistaa integraatiosi toiminnan varmistamisen ennen monimutkaisten sovellusten rakentamista. API palauttaa tekstin suoraan, varmistaen yhteensopivuuden olemassa olevien työvirtojen kanssa.

Copycurl https://api.abliter.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current server status?"}]
  }'

Python SDK -integraatio

Käytä virallista OpenAI:n Python-kirjastoa API-käyttöön. Aseta base URL ja API-avaimesi ennen asiakasohjelman alustusta. Tämä lähestymistapa hyödyntää tuttuja koodirakenteita samalla kun pääset käsiksi censored-attymättömään malliimme. Voit lähettää viestejä ja vastaanottaa vastauksia vähäisellä boilerplate-koodilla. Kirjasto hoitaa serialisoinnin ja yhteydenhallinnan automaattisesti. Tämä menetelmä on ihanteellinen taustapalveluille tai skriptipohjaisille automatisoinneille. Se varmistaa, että koodisi pysyy siistinä ja ylläpidettävänä.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliter.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js SDK:n integraatio

Integroi API JavaScript- tai TypeScript-projekteihin käyttämällä Node SDK:ta. Määritä asiakas perus-URL:llasi ja tunnuksillasi. Tämä mahdollistaa pyyntöjen käsittelyn saumattomasti async-funktioissa. Voit hallita streamausta tai synkronisia vastauksia tarpeidesi mukaan. SDK tukee nykyaikaisia async/await-kuvioita siistin koodin luomiseksi. Tämä tekee API:n upottamisesta web-palvelimiin tai CLI-työkaluihin helppoa. Varmista, että ympäristösi tukee vaadittua Node-versiota.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliter.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Striimitettyjen vastausten käsittely

Ota suoratoisto käyttöön reaaliaikaiseen tokenien tuottamiseen Server-Sent Events -tekniikalla. Tämä ominaisuus mahdollistaa tekstin näyttämisen sen synnyttyä, mikä parantaa käyttökokemusta. API lähettää data-paloja, kunnes vastaus on valmis. Voit tarkastella token-käyttötilastoja viimeisestä palikasta. Suoratoisto on olennaista chatrajapintoihin ja reaaliaikaisiin sovelluksiin. Se vähentää koettua viivettä ja pitää käyttäjät sitoutuneina. Määritä asiakasohjelmasi käsittelemään vaiheittaista dataa oikein.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Rajoitukset, virheet ja kontekstiikkuna

APIemme asettaa tarkat rajat varmistamaan vakauden. Saat 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä per avain. Kontekstiikkuna tukee yhteensä 100,000 tokenia, ja maksimitulostus on 16,000 tokenia. Virheet kuten 401 viittaavat virheelliseen avaimeseen, kun taas 402 tarkoittaa riittämätöntä saldoa. 429-tila kertoo, että olet ylittänyt nopeusrajan. Pyyntöjen, jotka ylittävät 8 MB:n rungon koon, hylätään. Saldo ei vanhene, joten voit täydentää sitä omassa tahdissasi. Nämä rajoitteet auttavat ylläpitämään korkeaa saatavuutta kaikille käyttäjille.