1. 選擇一個無審查的 LLM API
從模型在您自己的提示詞上的行為開始。發送一組固定的合法成人與虛構請求,並記錄每一次拒絕。一個拒絕合法創作工作的端點會迫使您加入會破壞產品的繞道方案。
我們的端點直接回應合法的成人、虛構及爭議性請求,模型 ID 為 uncensored.
2. 驗證 OpenAI 相容性
將官方 OpenAI SDK 指向基礎 URL https://nsfwollama.com/v1 並發送一條短訊息。如果回覆在 choices[0].message.content, 您現有的聊天程式碼無需更改即可運作。
- 檢查串流是否返回伺服器發送的事件。
- 檢查錯誤是否以 JSON 格式返回,並包含狀態碼。
3. 實現串流以優化使用者體驗
使用者根據第一個字詞出現的速度來評判聊天機器人。設定 stream: true顯示每個到達的區塊,並將完整文本保留在緩衝區中以供存儲。
測量不同長度對話的首個 token 生成時間。在短對話中回應迅速,但在歷史記錄增長時可能會變慢,因此也請測試長對話的情況。
4. 準確計算 Token 成本
角色扮演會話在每次請求時都會攜帶其完整歷史,因此隨著每次交談,輸入 token 會增長。上下文窗口為 100,000 token,長會話的成本主要來自輸入。
| 會話 | 輸入 token | 輸出 token | 成本 |
|---|---|---|---|
| 單一簡短回覆 | 1,200 | 300 | $0.0003 |
| 長角色扮演回合 | 70,000 | 1,500 | $0.0113 |
在視窗填滿前修剪或總結較舊的對話輪次,並儲存每段對話的使用數據。
5. 優雅處理速率限制
每個金鑰允許每分鐘 300 次請求與 8 個同時請求。聊天應用程式單獨運作時很少達到此限制,但來自許多使用者的突發流量可能會。請針對每個使用者排隊請求,並對 429 響應採用指數退避重試。
在介面中顯示短暫的等待訊息,而非無聲的延遲。
6. 定義您的內容界限
在推出產品前決定您的產品接受什麼,並在您自己的程式碼中執行。年齡檢查、角色扮演角色的同意規則以及您拒絕的所有類別的封鎖清單都應屬於您的應用程式,而不僅是提示的一部分。
記錄規則,並使用來自每個類別的提示進行測試。
7. Set Up Crypto Payments for Scale
預付信用額適合流量不均的聊天產品。充值通過 TRC20 上的 USDT 或 Base 上的 USDC 支付,最低 $20,且 $50 起適用贈送信用額。餘額不會低於零,因此失控循環會在您充值的金額處停止。
將餘額連線至您自己的警示系統,以便在服務停止前看到餘額不足。
8. 使用真實的 NSFW 提示詞進行測試
在上线之前,請使用來自您使用者的真實提示運行測試集,使用相同的系統訊息和相同的歷史長度。閱讀回覆,檢查每次對話的成本,並記錄產品行為與您預期不符的每種情況。
每次更改系統提示後重複測試,因為微小的措辭變化可能會大幅改變行為。