1. Uncensored LLM API 선택하기
모델의 동작을 먼저 확인하세요. 고유한 프롬프트로 테스트하고, 법적이며 성적인 성인 콘텐츠와 픽션 요청을 고정된 세트로 보내 모든 거절 사항을 기록하세요. 법적 창작물을 거절하는 엔드포인트는 제품 기능을 깨뜨리는 우회 방법을 추가하게 만듭니다.
당사 엔드포인트는 합법적인 성인, 픽션 및 논쟁적인 요청을 id를 사용하여 직접 응답합니다. uncensored.
2. OpenAI 호환성 확인
공식 OpenAI SDK를 기본 URL에 연결하세요 https://nsfwollama.com/v1 짧은 메시지 하나를 보내세요. 답변이 다음 안에 돌아오면 choices[0].message.content, 기존 채팅 코드는 변경 없이 작동합니다.
- 스트리밍이 서버 전송 이벤트를 반환하는지 확인하세요.
- 에러가 상태 코드가 포함된 JSON으로 반환되는지 확인하세요.
3. UX 개선을 위한 스트리밍 구현
사용자는 채팅봇이 첫 단어를 표시하는 시기를 기준으로 평가합니다. 설정 stream: true, 각 청크가 도착할 때마다 표시하고 전체 텍스트를 저장용 버퍼에 유지합니다.
서로 다른 길이의 대화에서 첫 번째 토큰까지의 시간을 측정하세요. 짧은 대화에서 빠르게 시작하는 응답은 히스토리가 늘어날 때 느려질 수 있으므로 긴 케이스도 테스트하세요.
4. 토큰 비용 정확히 계산하기
롤플레이 세션은 요청마다 전체 역사를 함께 가져가므로 입력 토큰은 각 턴마다 증가합니다. 컨텍스트 윈도우는 100,000 토큰이며, 긴 세션의 비용 대부분은 입력에 발생합니다.
| 세션 | 입력 토큰 | 출력 토큰 | 비용 |
|---|---|---|---|
| 단일 짧은 응답 | 1,200 | 300 | $0.0003 |
| 긴 역할극 턴 | 70,000 | 1,500 | $0.0113 |
창이 가득 차기 전에 오래된 턴을 정리하거나 요약하고, 대화별 사용량을 저장하세요.
5. 속도 제한을 유연하게 처리하기
각 키는 분당 300회 요청 및 8개의 동시 요청을 허용합니다. 채팅 앱은 일반적으로 이 제한에 도달하지 않지만, 다수 사용자의 급증 요청으로 인해 도달할 수 있습니다. 사용자별로 요청을 큐에 넣고 429 응답에 대해 지수 백오프로 재시도하세요.
침묵하는 지연 대신 인터페이스에 짧은 대기 메시지를 표시하세요.
6. 콘텐츠 경계 정의
출시 전에 제품이 어떤 것을 수락할지 결정하고 자체 코드에서 강제하세요. 연령 확인, 역할극 캐릭터에 대한 동의 규칙 및 모든 거부 카테고리 목록은 프롬프트뿐만 아니라 애플리케이션에도 포함되어야 합니다.
각 카테고리에서 프롬프트로 규칙을 기록하고 테스트하세요.
7. Set Up Crypto Payments for Scale
선불 크레딧은 불규칙한 트래픽을 가진 채팅 제품에 적합합니다. 충전은 TRC20의 USDT 또는 Base의 USDC로 지불하며, 최소 $20부터 시작하며 $50부터 보너스 크레딧이 적용됩니다. 잔액은 0 이하로 떨어질 수 없으므로, 실행된 루프는 로드한 금액에서 중단됩니다.
잔액을 자체 알림에 연결하여 서비스 중단 전에 낮은 잔액을 확인할 수 있습니다.
8. 실제 NSFW 프롬프트로 테스트
출시 전 실제 사용자 프롬프트 테스트 세트를 동일한 시스템 메시지 및 동일한 대화 길이로 실행하세요. 답변을 읽고 대화당 비용을 확인하며 예상치 못한 방식으로 동작한 모든 사례를 기록하세요.
시스템 프롬프트를 변경할 때마다 테스트를 반복하세요. 작은 어조 변경도 동작에 큰 영향을 미칠 수 있기 때문입니다.
