1. Choisissez une API LLM sans censorship
Commencez par le comportement du modèle avec vos propres prompts. Envoyez un ensemble fixe de requêtes légales, pour adultes et fictives, et enregistrez chaque refus. Un point de terminaison qui refuse un travail créatif légitime vous oblige à ajouter des contournements qui altèrent le produit.
Notre point de terminaison répond directement aux demandes adultes légales, fictives et controversées, avec l'identifiant uncensored.
2. Vérifiez la compatibilité OpenAI
Pointez le SDK OpenAI officiel vers l'URL de base https://nsfwollama.com/v1 et envoyer un court message. Si la réponse revient en choices[0].message.content, votre code de chat existant fonctionne sans modifications.
- Vérifiez que le streaming renvoie des événements envoyés par le serveur.
- Vérifiez que les erreurs sont renvoyées au format JSON avec un code d’état.
3. Implémentez le streaming pour l'expérience utilisateur
Les utilisateurs jugent un chatbot par la rapidité d'apparition des premiers mots. Définissez stream: true, affichez chaque chunk à son arrivée et conservez le texte complet dans un tampon pour le stockage.
Mesurez le temps jusqu'au premier token sur des conversations de différentes longueurs. Une réponse qui démarre rapidement sur des courts chats peut ralentir lorsque l'historique s'allonge, testez donc également le cas long.
4. Calculez précisément les coûts en tokens
Les sessions de jeu de rôle conservent tout leur historique à chaque requête, donc les tokens d'entrée augmentent à chaque tour. La fenêtre de contexte est de 100 000 tokens, et le coût d'une longue session est principalement l'entrée.
| Session | Jetons d'entrée | Tokens de sortie | Coût |
|---|---|---|---|
| Réponse courte unique | 1,200 | 300 | $0.0003 |
| Tour de jeu de rôle long | 70,000 | 1,500 | $0.0113 |
Supprimez ou résumez les anciennes tours avant que la fenêtre ne soit pleine, et stockez les nombres d'utilisation par conversation.
5. Gérez les limites de débit avec souplesse
Chaque clé permet 300 requêtes par minute et 8 requêtes simultanées. Une application de chat atteint rarement cette limite seule, mais une rafale provenant de nombreux utilisateurs peut le faire. Mettez en file d'attente les requêtes par utilisateur et réessayez les réponses 429 avec un backoff exponentiel.
Affichez un court message d'attente dans l'interface plutôt qu'un délai silencieux.
6. Définissez vos limites de contenu
Décidez ce que votre produit accepte avant le lancement, et appliquez-le dans votre propre code. Les vérifications d'âge, les règles de consentement pour les personnages de jeu de rôle et une liste de blocage pour les quelques catégories que vous refusez toutes appartiennent à votre application, pas seulement au prompt.
Écrivez les règles et testez-les avec des invites de chaque catégorie.
7. Mettez en place les paiements crypto pour la mise à l'échelle
Le crédit prépayé convient à un produit de chat avec un trafic irrégulier. Les recharges sont payées en USDT sur TRC20 ou en USDC sur Base, à partir de 20 $, et le crédit bonus s'applique à partir de 50 $. Le solde ne peut pas descendre en dessous de zéro, donc une boucle incontrôlée s'arrête au montant que vous avez chargé.
Connectez le solde à vos propres alertes, afin que vous voyiez un solde faible avant l'arrêt du service.
8. Tester avec de vrais prompts NSFW
Avant le lancement, exécutez un ensemble de tests avec de vrais prompts provenant de vos utilisateurs, avec les mêmes messages système et la même longueur d'historique. Lisez les réponses, vérifiez le coût par conversation et notez chaque cas où le produit s'est comporté d'une manière qui ne vous était pas familière.
Répétez le test après chaque modification du prompt système, car de petits changements de formulation peuvent altérer considérablement le comportement.
