繁中 ▾
使用試用信用額度嘗試

構建 NSFW 聊天機器人:開發者's 清單

NSFW 聊天機器人比標準助手包含更多組件:長篇角色扮演的 Token 預算、用於聊天感的流式傳輸、誠實的成本追蹤和清晰的内容邊界。此檢查清單涵蓋了上線前需做出的八項決策。

最後更新

摘要

  • 選擇一個 OpenAI-compatible 的 uncensored LLM API,這樣您的聊天程式碼就不需要重寫。
  • 串流回覆並測量真實對話中第一個權杖的到達時間。
  • 從實際 token 計數追蹤每段對話的成本;費率為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。
  • 在程式碼中設定您自己的內容邊界;模型層級的唯一硬性限制是涉及未成年人的性內容。

1. 選擇一個無審查的 LLM API

從模型在您自己的提示詞上的行為開始。發送一組固定的合法成人與虛構請求,並記錄每一次拒絕。一個拒絕合法創作工作的端點會迫使您加入會破壞產品的繞道方案。

我們的端點直接回應合法的成人、虛構及爭議性請求,模型 ID 為 uncensored.

2. 驗證 OpenAI 相容性

將官方 OpenAI SDK 指向基礎 URL https://nsfwollama.com/v1 並發送一條短訊息。如果回覆在 choices[0].message.content, 您現有的聊天程式碼無需更改即可運作。

  • 檢查串流是否返回伺服器發送的事件。
  • 檢查錯誤是否以 JSON 格式返回,並包含狀態碼。

3. 實現串流以優化使用者體驗

使用者根據第一個字詞出現的速度來評判聊天機器人。設定 stream: true顯示每個到達的區塊,並將完整文本保留在緩衝區中以供存儲。

測量不同長度對話的首個 token 生成時間。在短對話中回應迅速,但在歷史記錄增長時可能會變慢,因此也請測試長對話的情況。

4. 準確計算 Token 成本

角色扮演會話在每次請求時都會攜帶其完整歷史,因此隨著每次交談,輸入 token 會增長。上下文窗口為 100,000 token,長會話的成本主要來自輸入。

會話輸入 token輸出 token成本
單一簡短回覆1,200300$0.0003
長角色扮演回合70,0001,500$0.0113

在視窗填滿前修剪或總結較舊的對話輪次,並儲存每段對話的使用數據。

5. 優雅處理速率限制

每個金鑰允許每分鐘 300 次請求與 8 個同時請求。聊天應用程式單獨運作時很少達到此限制,但來自許多使用者的突發流量可能會。請針對每個使用者排隊請求,並對 429 響應採用指數退避重試。

在介面中顯示短暫的等待訊息,而非無聲的延遲。

6. 定義您的內容界限

在推出產品前決定您的產品接受什麼,並在您自己的程式碼中執行。年齡檢查、角色扮演角色的同意規則以及您拒絕的所有類別的封鎖清單都應屬於您的應用程式,而不僅是提示的一部分。

記錄規則,並使用來自每個類別的提示進行測試。

7. Set Up Crypto Payments for Scale

預付信用額適合流量不均的聊天產品。充值通過 TRC20 上的 USDT 或 Base 上的 USDC 支付,最低 $20,且 $50 起適用贈送信用額。餘額不會低於零,因此失控循環會在您充值的金額處停止。

將餘額連線至您自己的警示系統,以便在服務停止前看到餘額不足。

8. 使用真實的 NSFW 提示詞進行測試

在上线之前,請使用來自您使用者的真實提示運行測試集,使用相同的系統訊息和相同的歷史長度。閱讀回覆,檢查每次對話的成本,並記錄產品行為與您預期不符的每種情況。

每次更改系統提示後重複測試,因為微小的措辭變化可能會大幅改變行為。

常見問題

此 API 允許 NSFW 聊天機器人嗎?

合法成人及虛構內容會直接回答。唯一的硬性限制是涉及未成年人的性內容,而您的產品規則應根據您的使用者或法律要求進一步增加限制。

我應該發送哪個 model id?

傳送 uncensored。這是服務中唯一的模型。

一次聊天會話的成本是多少?

每 1M 輸入 tokens 價格為 $0.15,每 1M 輸出 tokens 價格為 $0.50,短回覆的成本僅為幾分之一美分。長期的角色扮演對話成本較高,因為每次對話輪次都會重新發送歷史記錄。

我如何開始測試?

使用 Google 或電子郵件及密碼註冊。帳戶將以 $0.50 的試用額度開頭,有效期為 7 天,且無需信用卡。

取得您的 API 金鑰

註冊、複製金鑰並更新您的端點 URL。很簡單。

使用試用信用額度嘗試