1. एक अनसेंसर्ड LLM API चुनें
मॉडल के व्यवहार को अपने प्रॉम्प्ट्स पर शुरू करें। कानूनी वयस्क और काल्पनिक अनुरोधों का एक निश्चित सेट भेजें, और हर रिफ्यूज़ल को रिकॉर्ड करें। एक एंडपॉइंट जो कानूनी रचनात्मक कार्य को रिफ्यूज करता है, आपको प्रोडक्ट को तोड़ने वाले वर्कअराउंड्स जोड़ने पर मजबूर करेगा।
हमारा एंडपॉइंट कानूनी वयस्क, काल्पनिक और विवादास्पद अनुरोधों को सीधे उत्तर देता है, id के साथ uncensored.
2. OpenAI संगतता की पुष्टि करें
बेस यूआरएल पर औपचारिक OpenAI SDK को पॉइंट करें https://nsfwollama.com/v1 और एक छोटा संदेश भेजें। यदि जवाब choices[0].message.content, आपका मौजूद चैट कोड बिना किसी बदलाव के काम करेगा।
- जाँच करें कि स्ट्रीमिंग सर्वर-सेंट इवेंट्स लौटाता है।
- जाँच करें कि एरर्स JSON के रूप में लौटते हैं जिसमें एक स्टेटस कोड होता है।
3. यूएक्स (UX) के लिए स्ट्रीमिंग लागू करें
उपयोगकर्ता एक चैटबॉट को इस बात पर आंकते हैं कि पहली शब्द कितनी जल्दी दिखाई देती है। सेट करें stream: true, प्रत्येक चंक को आते ही दिखाएं और भंडारण के लिए पूर्ण पाठ को एक बफर में रखें।
विभिन्न लंबाई की बातचीत पर पहले टोकन तक का समय मापें। छोटी चैट पर जल्दी शुरू होने वाला उत्तर इतिहास बढ़ने पर धीमा हो सकता है, इसलिए लंबे मामले का भी परीक्षण करें।
4. टोकन लागत की सटीक गणना करें
रोलप्ले सत्र हर अनुरोध के साथ अपना पूरा इतिहास ले जाते हैं, इसलिए इनपुट टोकन प्रत्येक पालट के साथ बढ़ते हैं। संदर्भ विंडो 100,000 टोकन है, और एक लंबे सत्र की लागत मुख्य रूप से इनपुट है।
| सत्र | इनपुट टोकन | आउटपुट टोकन | लागत |
|---|---|---|---|
| सिंगल शॉर्ट रिप्लाई | 1,200 | 300 | $0.0003 |
| लंबा रोलप्ले टर्न | 70,000 | 1,500 | $0.0113 |
विंडो भरने से पहले पुराने टर्म्स को ट्रिम या सारांशित करें, और प्रति बातचीत उपयोग संख्याओं को स्टोर करें।
5. रेट लिमिट्स को सहजता से हैंडल करें
प्रत्येक कुंजी प्रति मिनट 300 अनुरोधों और एक ही समय में 8 अनुरोधों की अनुमति देती है। एक चैट ऐप अकेले उस लिमिट तक नहीं पहुंचता, लेकिन कई उपयोगकर्ताओं से एक बर्स्ट हो सकता है। उपयोगकर्ताओं के लिए अनुरोध क्यू करें और एक्सपोनेंशियल बैकऑफ के साथ 429 प्रतिक्रियाओं को रीट्राइ करें।
सिस्टम में प्रतीक्षा के दौरान एक छोटा प्रतीक्षा संदेश दिखाएं, न कि चुपचाप विलंब।
6. अपनी सामग्री सीमाओं को परिभाषित करें
तय करें कि आपका उत्पाद क्या स्वीकार करता है, और इसे अपने कोड में लागू करें। आयु जाँच, रोल-प्ले किरदारों के लिए सहमति नियम और उन कुछ श्रेणियों के लिए ब्लॉक लिस्ट जहाँ आप सभी को अस्वीकार करते हैं, उनका स्थान आपके एप्लिकेशन में होना चाहिए, न कि केवल प्रॉम्प्ट में।
प्रत्येक श्रेणी से प्रॉम्प्ट्स के साथ नियमों को लिखें और परीक्षण करें।
7. स्केल के लिए क्रिप्टो भुगतान सेट करें
प्रीपेड क्रेडिट असमान ट्रैफिक वाले चैट उत्पाद के लिए फिट बैठता है। टॉप-अप USDT on TRC20 या Base पर USDC में भुगतान किए जाते हैं, $20 से शुरू, और बोनस क्रेडिट $50 से लागू होता है। बैलेंस शून्य से नीचे नहीं जा सकता, इसलिए एक रनअवे लूप उसी राशि पर रुक जाता है जिसे आपने लोड किया था।
बैलेंस को अपने खुद के अलर्ट से कनेक्ट करें, ताकि आप सेवा बंद होने से पहले कम बैलेंस देख सकें।
8. असली NSFW प्रॉम्प्ट्स के साथ परीक्षण करें
लॉन्च से पहले, अपने उपयोगकर्ताओं के वास्तविक प्रॉम्प्ट्स का एक परीक्षण सेट चलाएं, उसी सिस्टम संदेशों और उसी इतिहास लंबाई के साथ। जवाब पढ़ें, प्रति बातचीत लागत की जांच करें और हर उस मामले को नोट करें जहां उत्पाद उस तरीके से व्यवहार किया जिसकी आपने उम्मीद नहीं की थी।
प्रणाली प्रॉम्प्ट में प्रत्येक परिवर्तन के बाद परीक्षण दोहराएं, क्योंकि छोटे शब्द परिवर्तन व्यवहार को बहुत बदल सकते हैं।
