Gyors beállítások: Klien csatlakoztatása
Kezdjen el azonnal kéréseket küldeni az alap URL-nk használatával. Cserélje le a YOUR_API_KEY a kulccsal a műszerfaladról. API-nk a hitelesítéshez szabványos fejléceket használ.
- Base URL:
https://api.nsfwollama.com/v1 - Modell ID:
uncensored
curl https://api.nsfwollama.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Summarize this log file"}]
}'Végpont: /v1/chat/completions
Küldjön üzeneteket szöveg generálásához. POST kérést küldjön a /v1/chat/completions a modell azonosítójával és az üzenettömbbel. A kontextusablak összesen 100,000 tokent támogat. Ez a prompt és a completion tokenek együttesen.
from openai import OpenAI
client = OpenAI(base_url="https://api.nsfwollama.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Végpont: /v1/models
Fedezd fel az elérhető modelleket. GET /v1/models az endpointok listázására. API-nk egyetlen, az uncensored válaszokra optimalizált nagy nyelvi modellt szolgál ki. Nem támogat beágyazásokat vagy képgenerálást. Ellenőrizze a modelllistát az elérhetőség megerősítéséhez.
Paraméterek: Hőmérséklet, Top P és egyebek
Generálási stílus szabályozása standard paraméterekkel. Állítsa be temperature kreativitás. Állítsa top_p nukleáris mintavételezéshez. Használja response_format valamivel json_object strukturált kimenethez. Beállíthatja a seed a reprodukálhatóság érdekében. Ezek a paraméterek pontosan úgy működnek, mint az OpenAI SDK.
Streamelési válaszok és tokenfelhasználás
Valós idejű kimenet fogadása Server-Sent Events segítségével. A streamelés csökkenti a észlelt késleltést hosszú válaszok esetén. A token-felhasználás részletei az utolsó csomagban jelennek meg. Ez lehetővé teszi a költségek pontos nyomon követését. API-nk csak a ténylegesen feldolgozott tokenek után számít fel díjat. A hibák ingyenesek.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Hibakezelés & Korlátok
Kezelje gracefully a szabványos HTTP hibákat. A 401 azt jelenti, hogy az API-kulcs érvénytelen. A 402 elégtelen előre fizetett hitelt jelez. A 429 azt jelzi, hogy túllépte a percenkénti 300 kérés limitet. A maximális kérelem törzs mérete 8 MB. Kulcsonként 8 párhuzamos kérést kap. A hitelekhez nem adunk visszatérítést, de a támogatás javíthatja a számlázási hibákat.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.nsfwollama.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);