התחלה מהירה: חיבור הלקוח שלך
התחל לשלוח בקשות מיד באמצעות כתובת הבסיס שלנו. החלף YOUR_API_KEY עם המפתח מהלוח שלך. ה-API שלנו משתמש בכותרות סטנדרטיות לאימות.
- כתובת בסיס:
https://api.nsfwollama.com/v1 - מזהה מודל:
uncensored
curl https://api.nsfwollama.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Summarize this log file"}]
}'נקודת קצה: /v1/chat/completions
שלם הודעות כדי לייצר טקסט. שלח בקשת POST ל /v1/chat/completions עם מזהה הדגם שלך ומערך ההודעות. חלון ההקשר תומך ב-100,000 אסימונים בסך הכל. זה כולל את אסימוני ההנחיה וההשלמה יחדיו.
from openai import OpenAI
client = OpenAI(base_url="https://api.nsfwollama.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)נקודת קצה: /v1/models
גלה מודלים זמינים. GET /v1/models לרשום נקודות קצה. ה-API שלנו משרת מודל שפה גדול אחד המותאם לתגובות ללא סינון. הוא אינו תומך באמברודינג או ביצירת תמונות. בדוק את רשימת המודלים כדי לאשר זמינות.
פרמטרים: טמפרטורה, Top P, ועוד
שלוו את סגנון היצירה באמצעות פרמטרים סטנדרטיים. הגדירו temperature ליצירתיות. התאם top_p לדגימת ליבה. השתמש response_format עם json_object לפלט מבני. אתה יכול גם להגדיר seed לשם שחזוריות. פרמטרים אלה עובדים בדיוק כמו ב-SDK של OpenAI.
תגובות בסטרימינג וצריכת טוקנים
קבלו פלט בזמן אמת באמצעות אירועים שנשלחים מהשרת. זרימה מפחיתה את תחוית השהייה עבור תגובות ארוכות. פרטי שימוש בטוקנים מופיעים בפסיקה הסופית. זה מאפשר לכם לעקוב אחר עלויות במדויק. ה-API שלנו גובה תשלום רק עבור טוקנים שעובדו בפועל. שגיאות הן בחינם.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)טיפול בשגיאות & מגבלות
טפלו בשגיאות HTTP סטנדרטיות בצורה תקינה. 401 אומר שהמפתח שלכם לא תקין. 402 מצביע על אשראי קדום לא מספיק. 429 מציין שחרגתם ממגבלת 300 הבקשות לדקה. גודל גוף הבקשה המקסימלי הוא 8 MB. יש לכם 8 בקשות מקבילות למפתח. החזרים לא ניתנים עבור אשראי, אך תמיכה יכולה לתקן שגיאות חשבון.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.nsfwollama.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);