Документация API Ollama NSFW

Быстрый старт: Подключение клиента

Начните отправку запросов немедленно, используя наш базовый URL. Замените YOUR_API_KEY с ключом из вашей панели управления. Наш API использует стандартные заголовки для аутентификации.

• Базовый URL: https://api.nsfwollama.com/v1
• Идентификатор модели: uncensored

Copycurl https://api.nsfwollama.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize this log file"}]
  }'

Конечная точка: /v1/chat/completions

Отправляйте сообщения для генерации текста. Отправьте POST-запрос на /v1/chat/completions с вашим идентификатором модели и массивом сообщений. Окно контекста поддерживает 100,000 токенов в общей сложности. Это включает как токены промпта, так и токены завершения.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.nsfwollama.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Конечная точка: /v1/models

Откройте доступные модели. GET /v1/models чтобы получить список конечных точек. Наш API обслуживает одну большую языковую модель, оптимизированную для uncensored ответов. Она не поддерживает эмбеддинги или генерацию изображений. Проверьте список моделей, чтобы подтвердить доступность.

Параметры: Temperature, Top P и многое другое

Управляйте стилем генерации с помощью стандартных параметров. Установите temperature для творчества. Настройте top_p для выборки по ядру. Используйте response_format с json_object для структурированного вывода. Вы также можете установить seed для воспроизводимости. Эти параметры работают точно так же, как в SDK OpenAI.

Потоковые ответы и использование токенов

Получайте вывод в реальном времени через Server-Sent Events. Потоковая передача снижает воспринимаемую задержку для длинных ответов. Детали использования токенов отображаются в последнем чанке. Это позволяет точно отслеживать расходы. Наш API взимает плату только за фактические обработанные токены. Ошибки бесплатны.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Обработка ошибок и лимиты

Грамотно обрабатывайте стандартные ошибки HTTP. 401 означает, что ваш API-ключ недействителен. 402 указывает на недостаточный предоплаченный кредит. 429 сигнализирует о превышении лимита в 300 запросов в минуту. Максимальный размер тела запроса составляет 8 МБ. Вы получаете 8 одновременных запросов на ключ. Возврат средств за кредиты не производится, но поддержка может исправить ошибки биллинга.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.nsfwollama.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);