क्विकस्टार्ट: अपना क्लाइंट कनेक्ट करें
अपने बेस URL का उपयोग करके तुरंत अनुरोध भेजना शुरू करें। बदलें YOUR_API_KEY आपके डैशबोर्ड से प्राप्त कुंजी के साथ। हमारा API प्रमाणीकरण के लिए मानक हेडर का उपयोग करता है।
- बेस यूआरएल:
https://api.nsfwollama.com/v1 - मॉडल ID:
uncensored
curl https://api.nsfwollama.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Summarize this log file"}]
}'एंडपॉइंट: /v1/chat/completions
टेक्स्ट जनरेट करने के लिए POST को /v1/chat/completions अपने मॉडल ID और संदेश सरणी के साथ। कॉन्टेक्स्ट विंडो कुल 100,000 टोकन का समर्थन करती है। इसमें प्रॉम्प्ट और कंप्लीशन टोकन दोनों शामिल हैं।
from openai import OpenAI
client = OpenAI(base_url="https://api.nsfwollama.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)एंडपॉइंट: /v1/models
उपलब्ध मॉडल खोजें। GET /v1/models एंडपॉइंट सूचीबद्ध करने के लिए। हमारा API अनसेंसर्ड प्रतिक्रियाओं के लिए अनुकूलित एक बड़े भाषा मॉडल को संचालित करता है। यह एम्बेडिंग या इमेज जनरेशन का समर्थन नहीं करता है। उपलब्धता की पुष्टि करने के लिए मॉडल सूची देखें।
पैरामीटर: तापमान, Top P और अधिक
मानक पैरामीटर का उपयोग करके जनरेशन शैली को नियंत्रित करें। सेट करें temperature रचनात्मकता के लिए। Adjust top_p न्यूक्लियस सैंपलिंग के लिए। उपयोग करें response_format के साथ json_object संरचित आउटपुट के लिए। आप सेट भी कर सकते हैं seed पुनरुत्पादन के लिए। ये पैरामीटर OpenAI SDK की तरह ही काम करते हैं।
स्ट्रीमिंग रिस्पॉन्सेस और टोकन उपयोग
सर्वर-सेंट इवेंट्स के माध्यम से रियल-टाइम आउटपुट प्राप्त करें। स्ट्रीमिंग लंबी प्रतिक्रियाओं के लिए अनुपस्थित लेटेंसी को कम करती है। टोकन उपयोग विवरण अंतिम चंक में प्रकट होते हैं। यह आपको लागत को सटीक रूप से ट्रैक करने की अनुमति देता है। हमारा API केवल वास्तविक प्रसंस्कृत टोकनों के लिए चार्ज करता है। त्रुटियां मुफ्त हैं।
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)त्रुटि हैंडलिंग & सीमाएँ
मानक HTTP त्रुटियों को सहजता से हैंडल करें। 401 का अर्थ है कि आपकी API कुंजी अमान्य है। 402 अपर्याप्त प्रीपेड क्रेडिट को इंगित करता है। 429 संकेत देता है कि आपने प्रति मिनट 300 अनुरोधों की सीमा को पार कर दिया है। अधिकतम अनुरोध बॉडी आकार 8 MB है। आपको प्रति कुंजी 8 समवर्ती अनुरोध मिलते हैं। क्रेडिट के लिए रिफंड जारी नहीं किए जाते हैं, लेकिन सहायता बिलिंग त्रुटियों को ठीक कर सकती है।
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.nsfwollama.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);