1. Wybierz API LLM bez cenzury
Zacznij od zachowania modelu na Twoich własnych promptach. Wyślij stały zestaw prawnych, dorosłych i fikcyjnych żądań oraz zanotuj każdą odmowę. Punkt końcowy, który odrzuca legalne prace twórcze, zmusza Cię do dodawania obejść, które psują produkt.
Nasz punkt końcowy bezpośrednio odpowiada na legalne żądania dla dorosłych, fikcyjne i kontrowersyjne, z identyfikatorem uncensored.
2. Zweryfikuj Kompatybilność z OpenAI
Wskaż oficjalne SDK OpenAI na podstawowy adres URL https://nsfwollama.com/v1 i wyślij jedną krótką wiadomość. Jeśli odpowiedź wróci w choices[0].message.content, Twój istniejący kod czatu działa bez zmian.
- Sprawdź, czy strumieniowanie zwraca zdarzenia wysłane przez serwer.
- Sprawdź, czy błędy zwracane są w formacie JSON z kodem statusu.
3. Wdrożenie strumieniowania dla UX
Użytkownicy oceniają bot czatu po tym, jak szybko pojawią się pierwsze słowa. Ustaw stream: true, pokazuj każdy kawałek, gdy przybywa, i przechowuj pełny tekst w buforze do przechowywania.
Mierz czas do pierwszego tokena w rozmowach o różnej długości. Odpowiedź, która zaczyna się szybko w krótkich czatach, może zwolnić, gdy historia się powiększy, dlatego przetestuj również przypadek długiej historii.
4. Dokładnie Oblicz Koszty Tokenów
Sesje roleplay przenoszą całą historię z każdym żądaniem, więc tokeny wejściowe rosną z każdą turą. Okno kontekstowe wynosi 100 000 tokenów, a koszt długiej sesji to głównie koszty wejścia.
| Sesja | Tokeny wejściowe | Tokeny wyjściowe | Koszt |
|---|---|---|---|
| Pojedyncza krótka odpowiedź | 1,200 | 300 | $0.0003 |
| Długa tura gry rolnej | 70,000 | 1,500 | $0.0113 |
Przycinaj lub podsumowuj starsze zwroty przed wypełnieniem okna i przechowuj liczby zużycia na konwersację.
5. Łagodne radzenie sobie z limitami szybkości
Każdy klucz pozwala na 300 żądań na minutę i 8 żądań jednocześnie. Aplikacja czatu rzadko osiąga ten limit samodzielnie, ale nagły ruch od wielu użytkowników może. Kolejkuj żądania na użytkownika i ponawiaj odpowiedzi 429 z wykładniczym opóźnieniem.
Pokaż krótkią wiadomość oczekiwania w interfejsie zamiast cichego opóźnienia.
6. Zdefiniuj Granice Treści
Zdecyduj, co akceptuje Twój produkt przed uruchomieniem, i wymuń to we własnym kodzie. Sprawdzenia wieku, zasady zgody dla postaci w grach RPG i lista blokowanych kategorii dla kilku kategorii, które odrzucasz, powinny należeć do Twojej aplikacji, a nie tylko do promptu.
Zapisz zasady i przetestuj je za pomocą promptów z każdej kategorii.
7. Konfiguracja płatności kryptowalutą dla skali
Konta prepaid pasują do produktu czatowego o nierównym ruchu. Doładowania są opłacane w USDT w sieci TRC20 lub USDC na Base, zaczynając od $20, a bonusowy kredyt dotyczy kwot od $50. Saldo nie może spaść poniżej zera, więc nieskończona pętla zatrzymuje się na załadowanej kwocie.
Połącz saldo ze swoimi alertami, aby widzieć niskie saldo przed zatrzymaniem usługi.
8. Przetestuj z rzeczywistymi promptami NSFW
Przed uruchomieniem uruchom zestaw testowy prawdziwych promptów od Twoich użytkowników, z tymi samymi wiadomościami systemowymi i tą samą długością historii. Przeczytaj odpowiedzi, sprawdź koszt na rozmowę i zanotuj każdy przypadek, w którym produkt zachował się w sposób, którego nie przewidziałeś.
Powtórz test po każdej zmianie w systemowym promptcie, ponieważ małe zmiany w słownictwie mogą znacznie zmienić zachowanie.
