1. Valitse karsimaton LLM-API
Aloita mallin käyttäytymisen tarkastelulla omilla kehotuksillasi. Lähetä kiinteä joukko laillisia aikuisille suunnattuja ja fiktiivisiä pyyntöjä ja kirjaa kaikki kieltojen asettamiset ylös. Päätepiste, joka kieltää laillisen luovan työn, pakottaa sinut lisäämään ratkaisuja, jotka rikkovat tuotetta.
Päätepisteemme vastaa suoraan laillisiin aikuis-, fiktiivisiin ja kiistanalaisiin pyyntöihin tunnuksella uncensored.
2. Varmista OpenAI-yhteensopivuus
Osoita virallinen OpenAI-SDK perus-URL-osoitteeseen https://nsfwollama.com/v1 ja lähetä yksi lyhyt viesti. Jos vastaus tulee takaisin choices[0].message.content, olemassa oleva keskustelukoodisi toimii ilman muutoksia.
- Tarkista, että suoratoisto palauttaa palvelimen lähettämiä tapahtumia.
- Tarkista, että virheet palautetaan JSON-muodossa tilakoodin kanssa.
3. Ota streamaus käyttöön käyttökokemuksen parantamiseksi
Käyttäjät tuomitsevat chatbotin sen mukaan, kuinka pian ensimmäiset sanat ilmestyvät. Aseta stream: true, näytä jokainen pala saapuessaan ja pidä koko teksti puskurissa tallennusta varten.
Mittaa ajan ensimmäiseen tokeniin eri pituisissä keskusteluissa. Vastaus, joka alkaa nopeasti lyhyissä keskusteluissa, voi hidastua, kun historia kasvaa, joten testaa myös pitkä tapaus.
4. Laske token-kustannukset tarkasti
Roolipelisessiot kuljettavat koko historian mukanaan jokaista pyyntöä kohden, joten syötteiden tokenit kasvavat jokaisen vuoron myötä. Konteksti-ikkuna on 100 000 tokenia, ja pitkän session kustannus on pääasiassa syöte.
| Istunto | Syöttötokenit | Lähtötokennit | Kustannus |
|---|---|---|---|
| Yksittäinen lyhyt vastaus | 1,200 | 300 | $0.0003 |
| Pitkä roolipelivuoro | 70,000 | 1,500 | $0.0113 |
Tyhjennä tai tiivistä vanhat vuorot ennen ikkunan täyttymistä ja tallenna käyttöluvut keskustelua kohden.
5. Käsittele nopeusrajoitukset sulavasti
Jokainen avain sallii 300 pyyntöä minuutissa ja 8 pyyntöä samanaikaisesti. Chat-sovellus harvoin osuu tähän rajaan yksinään, mutta piikkipakkaus monelta käyttäjältä voi. Järjestä pyynnöt käyttäjäkohtaisesti ja yritä uudelleen 429-vastauksissa eksponentiaalisella viiveellä.
Näytä lyhyt odotusviesti käyttöliittymässä hiljaisen viiveen sijaan.
6. Määritä sisältörajoituksesi
Päätä, mitä tuotteesi hyväksyy ennen julkaisua, ja pakota se omassa koodissasi. Ikätarkistukset, suostumussäännöt roolipelihahmoille ja listaus muutamista kategorioista, jotka hylkäät kokonaan, kuuluvat sovellukseesi, ei vain promptiin.
Kirjoita säännöt ylös ja testaa niitä kehotteilla jokaisesta kategoriasta.
7. Määritä kryptomaksut skaalattavuutta varten
Esilukutetut varat sopivat chat-tuotteeseen, jossa on epäsäännöllinen liikenne. Lataukset maksetaan USDT-verkossa TRC20:llä tai USDC-verkossa Base:lla alkaen 20 $:sta, ja bonussaldo koskee 50 $:n summista. Saldo ei voi laskea nollan alapuolelle, joten hallitsematon silpaus pysähtyy ladattuun määrään.
Yhdistä saldo omiin hälytyksiisi, jotta näet matalan saldon ennen palvelun pysähtymistä.
8. Testaa aidoilla NSFW-prompteilla
Ennen julkaisua suorita testijoukko todellisia prompteja käyttäjiltäsi samoin järjestelmäviestein ja samalla historian pituudella. Lue vastaukset, tarkista kustannukset keskustelua kohden ja merkitse jokainen tapaus, jossa tuote käyttäytyi odottamattomasti.
Toista testi jokaisen järjestelmäpromptin muutoksen jälkeen, koska pienet sanamuodon muutokset voivat muuttaa käyttäytymistä paljon.
