Tài liệu API NSFW Ollama

Bắt đầu nhanh: Kết nối Máy khách của bạn

Bắt đầu gửi yêu cầu ngay lập tức bằng URL cơ sở của chúng tôi. Thay thế YOUR_API_KEY với khóa từ bảng điều khiển của bạn. API của chúng tôi sử dụng các tiêu chuẩn tiêu chuẩn để xác thực.

• Base URL: https://api.nsfwollama.com/v1
• ID Mô hình: uncensored

Copycurl https://api.nsfwollama.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize this log file"}]
  }'

Điểm cuối: /v1/chat/completions

Gửi tin nhắn để tạo văn bản. POST đến /v1/chat/completions với định danh mô hình và mảng thông điệp của bạn. Cửa sổ ngữ cảnh hỗ trợ tổng cộng 100,000 token. Điều này bao gồm cả token prompt và token hoàn thành kết hợp lại.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.nsfwollama.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Điểm cuối: /v1/models

Khám phá các mô hình có sẵn. GET /v1/models để liệt kê các điểm cuối. API của chúng tôi cung cấp một mô hình ngôn ngữ lớn duy nhất được tối ưu hóa cho phản hồi không kiểm duyệt. API không hỗ trợ embedding hoặc tạo ảnh. Hãy kiểm tra danh sách mô hình để xác nhận tính khả dụng.

Tham số: Nhiệt độ, Top P và hơn thế nữa

Kiểm soát phong cách sinh văn bản bằng các tham số tiêu chuẩn. Đặt temperature để sáng tạo. Điều chỉnh top_p để lấy mẫu nucleus. Sử dụng response_format với json_object cho đầu ra có cấu trúc. Bạn cũng có thể đặt seed để có thể tái lập kết quả. Các tham số này hoạt động chính xác như trong SDK của OpenAI.

Phản hồi luồng & Sử dụng token

Nhận đầu ra theo thời gian thực qua Server-Sent Events. Streaming giảm độ trễ cảm nhận được cho các phản hồi dài. Chi tiết sử dụng token xuất hiện trong chunk cuối cùng. Điều này cho phép bạn theo dõi chi phí chính xác. API của chúng tôi chỉ tính phí cho các token thực tế được xử lý. Lỗi miễn phí.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý lỗi & Giới hạn

Xử lý gracefully các lỗi HTTP tiêu chuẩn. Mã 401 có nghĩa là khóa API của bạn không hợp lệ. Mã 402 cho biết không đủ tín dụng trả trước. Mã 429 báo hiệu bạn đã vượt quá giới hạn 300 yêu cầu mỗi phút. Kích thước tối đa của thân yêu cầu là 8 MB. Bạn có 8 yêu cầu đồng thời mỗi khóa. Không hoàn tiền cho tín dụng, nhưng hỗ trợ có thể sửa lỗi thanh toán.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.nsfwollama.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);