API-dokumentaatio

Todennus ja base URL

Aloita avaimen luomin kojelaudasta. Perus-URL on HTTPS://api.aivenice.cc/v1. Syötä avaimesi Authorization-otsakkeeseen. Yksi aktiivinen avain tilillä korvaa vanhan automaattisesti.

Ensimmäinen pyyntöesimerkki

Lähetä yksinkertainen chat-completion yhteensopivuuden testaamiseksi. Mallin tunnus on "uncensored". Se käsittelee tehokkaasti tekstiä sisään ja tekstiä ulos. Voit säätää parametreja kuten lämpötilaa luovuutta varten.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aivenice.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Virheet ovat ilmaisia. Hylkäykset eivät kuluta saldoa. Tämä varmistaa ennustettavan laskutuksen ensimmäisestä kutsusta alkaen.

Node.js-integraatio

Käytä virallista Node SDK:ta helppoon integrointiin. Aseta base URL päätepisteeseemme. Syötä API-avaimesi konfiguraatio-objektiin. Tämä toimii useimpien standardien OpenAI-yhteensopivien kirjastojen kanssa.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aivenice.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Käsittele vastaukset suoraan JavaScript-ympäristössäsi. Rakenne vastaa vakioita OpenAI-muotoja tuttuuden vuoksi.

Streamausvastaukset

Ota virtauskäyttöön asettamalla stream arvoon true. Saat tokenit niiden tuotannon aikana. Tämä vähentää koettua viivettä käyttäjille. Viimeinen lohko sisältää kokonaistokenkäyttötiedot.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Jäsennä SSE-tapahtumia päivittääksesi käyttöliittymääsi reaaliajassa. Tämä on ihanteellinen chat-käyttöliittymille, jotka vaativat välitöntä palautetta.

Parameters and limits

Säädä temperature-, top_p- ja seed-arvoja hallinnan varmistamiseksi. Maksimi tuloksena on 16 000 tokeniä. Kontekstiikkuna on 100 000 tokeniä. Nopeusrajoitus on 300 pyyntöä minuutissa. Pyynnön kesto maksimissaan 8 Mt.

Nämä rajat varmistavat vakaan suorituskyvyn. Nopeusrajojen ylittäminen palauttaa 429-virheen. Lisää konvergenssia tarvittaessa.

Virheet ja kontekstiaukko

Käsittele 401-virhe virheellisistä avaimista. Käytä 402, kun saldo on alhainen. 429 tarkoittaa nopeusrajoituksen ylitystä. Virheet ja hylkäykset ovat ilmaisia. Esimaksusaltoni ei vanhene. Konteksti-ikkuna laskee promptin ja vastauksen tokenit yhteen.

Seuraa käyttöä viimeisessä palikassa streamauksessa. Tämä auttaa sinua pysymään budjetin sisällä. Piilomaksuja ei ole.

cURL

Copycurl https://api.aivenice.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "fetch the latest error logs from server logs"}]
  }'