1. Pilih API LLM Tanpa Sensor
Mula dengan tingkah laku model terhadap prompt anda sendiri. Hantar set permintaan dewasa yang sah dan fiksyen yang tetap, dan rekod setiap penolakan. Hujung sambungan yang menolak karya kreatif yang sah memaksa anda menambah penyelesaian kerja yang merosakkan produk.
Titik akhir ini menjawab permintaan dewasa, fiksyen dan kontroversi yang sah secara langsung, dengan id uncensored.
2. Sahkan Keserasian OpenAI
Arahkan SDK OpenAI rasmi ke URL asas https://nsfwollama.com/v1 dan hantar satu mesej pendek. Jika balasan kembali dalam choices[0].message.content, kod sembang sedia anda berfungsi tanpa perubahan.
- Semak bahawa penstriman mengembalikan acara yang dihantar pelayan.
- Semak bahawa ralat dikembalikan sebagai JSON dengan kod status.
3. Laksanakan Streaming untuk UX
Pengguna menilai chatbot berdasarkan seberapa cepat perkataan pertama muncul. Tetapkan stream: true, tunjukkan setiap pecahan apabila ia tiba dan simpan teks penuh dalam penimbal untuk penyimpanan.
Ukur masa ke token pertama pada perbualan dengan panjang berbeza. Balasan yang bermula dengan cepat pada sembang pendek boleh menjadi perlahan apabila sejarah berkembang, jadi uji kes panjang juga.
4. Kira Kos Token dengan Tepat
Sesi roleplay membawa keseluruhan sejarah mereka dengan setiap permintaan, jadi token input bertambah dengan setiap giliran. Jendela konteks ialah 100,000 token, dan kos sesi panjang adalah kebanyakannya input.
| Sesi | Token input | Token output | Kos |
|---|---|---|---|
| Balasan pendek tunggal | 1,200 | 300 | $0.0003 |
| Pusingan roleplay yang panjang | 70,000 | 1,500 | $0.0113 |
Potong atau ringkaskan giliran lama sebelum tetingkap penuh, dan simpan nombor penggunaan per perbualan.
5. Had Had Kadar dengan Baik
Setiap kunci membolehkan 300 permintaan setiap minit dan 8 permintaan pada masa yang sama. Aplikasi sembang jarang mencapai had itu seorang diri, tetapi lonjakan daripada ramai pengguna boleh. Gantungkan permintaan setiap pengguna dan cuba semula respons 429 dengan penangguhan eksponen.
Paparkan mesej menunggu ringkas dalam antara muka berbanding kelewatan senyap.
6. Tentukan Had Konten Anda
Putuskan apa yang diterima oleh produk anda sebelum pelancaran, dan kuatkan ia dalam kod anda sendiri. Semakan umur, peraturan persetujuan untuk watak peranan dan senarai sekatan untuk beberapa kategori yang anda tolak semua milik aplikasi anda, bukan hanya dalam prompt.
Tulis peraturan dan ujinya dengan arahan dari setiap kategori.
7. Sediakan Pembayaran Kripto Untuk Skala
Kredit prabayar sesuai untuk produk sembang dengan trafik tidak sekata. Pucukan dibayar dalam USDT pada TRC20 atau USDC pada Base, bermula pada $20, dan kredit bonus terpakai bermula dari $50. Baki tidak boleh turun di bawah sifar, jadi gelung yang lari berhenti pada jumlah yang anda muatkan.
Sambungkan baki kepada amaran anda sendiri, supaya anda melihat baki rendah sebelum perkhidmatan berhenti.
8. Uji dengan Prompt NSFW Sebenar
Sebelum pelancaran, jalankan set ujian arahan sebenar dari pengguna anda, dengan mesej sistem yang sama dan panjang sejarah yang sama. Baca balasan, periksa kos per perbualan dan catat setiap kes di mana produk berkelakuan dengan cara yang anda tidak jangka.
Ulang ujian selepas setiap perubahan kepada arahan sistem, kerana perubahan kecil dalam perkataan boleh mengubah tingkah laku dengan ketara.
