Pika-aloitus: Yhdistä asiakasohjelmasi
Aloita pyyntöjen lähettäminen heti base URL -osoitteen avulla. Korvaa YOUR_API_KEY avaimella hallintapaneelistasi. API:nme käytetään standardipäätearvoja todennuksessa varten.
- Base URL:
https://api.nsfwollama.com/v1 - Mallin tunnus:
uncensored
curl https://api.nsfwollama.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Summarize this log file"}]
}'
Päätepiste: /v1/chat/completions
Lähetä viestejä generoimaan tekstiä. POST-pyyntö osoitteeseen /v1/chat/completions mallin tunnustasi ja viestijonolla. Kontekstiikkuna tukee yhteensä 100,000 tokenia. Tämä sisältää sekä prompt- että completion-tokenit yhdessä.
from openai import OpenAI
client = OpenAI(base_url="https://api.nsfwollama.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Päätepiste: /v1/models
Löydä saatavilla olevat mallit. GET /v1/models luettelo päätepisteistä. API-palvelumme tarjoaa yhtä suurta kielimallia, joka on optimoitu uncensored-vastauksille. Se ei tue upotuksia (embeddings) tai kuvagenerointia. Tarkista malliluettelo vahvistaaksesi saatavuuden.
Parametrit: Lämpötila, Top P ja muuta
Säädä tuotannon tyyliä käyttämällä yleisiä parametreja. Aseta temperature luovuuteen. Säädä top_p ytimenäytteistykseen. Käytä response_format kanssa json_object rakenteiseen tulokseen. Voit myös asettaa seed toistettavuutta varten. Nämä parametrit toimivat täsmälleen kuten OpenAI SDK:ssa.
Streamausvastaukset & merkkikäyttö
Saat reaaliaikaista tuotantoa Server-Sent Events -tekniikalla. Virtaus vähentää havaittua viivettä pitkissä vastauksissa. Token-käytön tiedot näkyvät viimeisessä paliskessa. Tämä mahdollistaa kustannusten tarkan seurannan. API-laskutamme perustuvat vain todelliseen käsiteltyyn tokenmäärään. Virheet ovat ilmaisia.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Virheenkäsittely & Rajat
Käsittele vakioita HTTP-virheitä joustavasti. 401 tarkoittaa, että API-avaimesi on virheellinen. 402 osoittaa riittämätöntä esimaksukrediittiä. 429 merkitsee, että ylityit 300 pyynnön minuuttirajan. Pyynnön kehon enimmäiskoko on 8 Mt. Saat 8 samanaikaista pyyntöä per avain. Krediiteistä ei myönnetä hyvityksiä, mutta tuki voi korjata laskutusvirheet.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.nsfwollama.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);