Dokumentace API Ollama NSFW

Rychlý start: Připojení klienta

Začněte okamžitě odesílat požadavky pomocí naší základní URL. Nahraďte YOUR_API_KEY pomocí klíče z vaší ovládací karty. Naše API používá standardní hlavičky pro ověření.

• Základní URL: https://api.nsfwollama.com/v1
• ID modelu: uncensored

Copycurl https://api.nsfwollama.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize this log file"}]
  }'

Koncový bod: /v1/chat/completions

Pošlete zprávy pro generování textu. POST na /v1/chat/completions vaším ID modelu a polem zpráv. Kontextové okno podporuje celkem 100,000 tokenů. To zahrnuje kombinaci tokenů podnětu a dokončení.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.nsfwollama.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Koncový bod: /v1/models

Objevte dostupné modely. GET /v1/models vypsat endpointy. Naše API obsluhuje jeden velký jazykový model optimalizovaný pro odpovědi bez omezení. Nepodporuje vložení (embeddings) ani generování obrázků. Seznam modelů si ověřte pro potvrzení dostupnosti.

Parametry: Teplota, Top P a další

Ovládejte styl generování pomocí standardních parametrů. Nastavte temperature pro kreativitu. Upravte top_p pro nucleus sampling. Použijte response_format s json_object pro strukturovaný výstup. Můžete také nastavit seed pro reprodukovatelnost. Tyto parametry fungují přesně jako v SDK OpenAI.

Streamované odpovědi a spotřeba tokenů

Získejte výstup v reálném čase prostřednictvím Server-Sent Events. Streamování snižuje vnímanou latenci pro dlouhé odpovědi. Podrobnosti o využití tokenů se zobrazí ve finálním chunku. To vám umožňuje přesně sledovat náklady. Naše API účtuje pouze za skutečně zpracované tokeny. Chyby jsou zdarma.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Zpracování chyb & Limity

Zpracujte standardní chyby HTTP elegantně. 401 znamená, že váš klíč API je neplatný. 402 indikuje nedostatečný předplacený kredit. 429 signalizuje, že jste překročili limit 300 požadavků za minutu. Maximální velikost těla požadavku je 8 MB. Na klíč získáte 8 souběžných požadavků. Pro kredity se nevydávají refundace, ale podpora může opravit chyby fakturace.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.nsfwollama.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);