Dolphin AI: 프로덕션 가이드
Dolphin AI 모델은 주요 제공업체의 콘텐츠 필터를 우회하는 오픈 가중치 옵션을 제공하여 검열 없는 언어 생성에 대한 독특한 접근 방식을 제공합니다. 이 가이드는 abliterated 모델과 파인튜닝 모델 간의 기술적 차이점을 설명하고 표준 OpenAI 호환 SDK와의 통합 세부 정보를 제공하며, 대용량 배포를 위한 비용 효율적인 선불 청구 방식을 개요로 제시합니다.
마지막 업데이트
요약
- Dolphin 모델은 새로운 데이터셋으로 미세 조정되는 반면, abliterated 모델은 거부 메커니즘이 삭제되어 서로 다른 스타일의 uncensored 동작을 제공합니다.
- 당사의 API는 기존 클라이언트 코드와의 호환성을 보장하는 표준 /v1/chat/completions 엔드포인트를 통해 단일 무검열 모델을 제공합니다.
- 선불 토큰 청구는 입력 토큰 100만 개당 $0.15로 시작하며, 암호화폐 충전은 더 큰 금액에 대해 보너스 크레딧을 제공합니다.
- 서비스는 100,000개 토큰의 컨텍스트 윈도우와 스트리밍 응답을 지원하므로 긴 컨텍스트 애플리케이션에 적합합니다.
프로덕션을 위해 비제약 LLM을 선택해야 하는 이유?
Uncensored 모델은 일반 LLM이 창작, 성인, 또는 논쟁적 주제에 적용하는 정중한 거부를 제거합니다. 개발자는 애플리케이션의 특정 사용 사례에 방해가 되는 사전 필터링 로직 없이 원시 텍스트 생성이 필요할 때 이 경로를 선택합니다.
주요 제공업체는 API 수준에서 콘텐츠를 필터링하여 명시적인 언어나 틈새 주제에 의존하는 워크플로우를 끊을 수 있습니다. Uncensored LLM을 사용하면 애플리케이션이 콘텐츠 모데레이션을 로컬에서 처리할 수 있어 최종 사용자에게 표시될 내용을 완전히 제어할 수 있습니다.
- 픽션 및 역할극을 위한 전체 창의적 자유.
- 합법적인 성인 콘텐츠에 대한 예상치 못한 거부 없음.
- 논쟁적인 주제 전반에 걸친 일관된 동작.
Dolphin과 Abliterated 모델 이해하기
핵심적인 차이는 모델이 무검열 상태를 어떻게 달성하는지에 있습니다. Dolphin 모델은 새로운 데이터셋으로 파인튜닝되어 '날카롭지만' 일관된 스타일을 만듭니다. Abliterated 모델은 신경망의 '거부' 부분이 삭제되어 원래 모델의 기본 지식을 보존합니다.
어느 접근 방식이 절대적으로 더 우수하다고 할 수 없습니다. 파인튜닝은 지시 따르기를 개선할 수 있는 반면, 아블리레이션(Abliteration)은 원본 모델의 어조를 유지합니다. 두 방법 모두 합법적인 성인 용도로 콘텐츠 필터를 효과적으로 제거합니다.
| 메서드 | 프로세스 | 결과 |
|---|---|---|
| Dolphin | 미세 튜닝 | 경계, 높은 일관성의 텍스트 |
| Abliterated | 거부 삭제 | 원본 모델 음성, 필터 없음 |
OpenAI 호환 엔드포인트 통합
통합을 위해서는 기본 URL과 API 키를 변경하면 됩니다. 우리 API는 표준 엔드포인트를 통해 "uncensored" ID의 단일 모델을 제공합니다.
이 방식은 GPT-4나 Claude와 함께 작동하는 동일한 클라이언트 코드를 사용할 수 있음을 의미합니다. SDK를 우리 서버로 가리키기만 하면 됩니다. API는 스트리밍, 함수 호출, JSON 모드를 지원합니다.
Base URL: HTTPS://api.dolphinaimodels.com/v1
모델 ID: "uncensored"
엔드포인트: POST /v1/chat/completions 및 GET /v1/models.
컨텍스트 창 및 토큰 한도 관리
API는 100,000개의 토큰 컨텍스트 윈도우를 지원하며, 여기에는 프롬프트와 완성(completion) 토큰이 모두 포함됩니다. 이를 통해 즉시 잘리지 않고 긴 문서나 확장된 대화를 처리할 수 있습니다.
하지만 요청당 최대 출력은 16,000 토큰입니다. max_tokens을 지정하지 않으면 기본값은 2,048 토큰입니다. 이 제한은 스트리밍 응답에 대한 일관된 성능을 보장합니다.
오류와 거부는 크레딧을 소모하지 않으므로 토큰 사용량을 주의 깊게 모니터링하여 프롬프트를 비용 없이 테스트할 수 있습니다.
선불 크레딧을 통한 비용 최적화
크레딧은 실제 토큰 사용량을 기준으로 과금되며, 입력 토큰은 1M당 $0.15, 출력 토큰은 1M당 $0.50입니다. 월 요금이나 구독이 없습니다.
암호화폐 충전은 $20부터 시작하여 $500까지 가능합니다. 더 큰 금액에는 보너스 크레딧이 적용됩니다: $50은 +5%, $100은 +10%, $200은 +15%. 크레딧은 만료되지 않습니다.
신규 계정은 7일 동안 유효한 $0.50의 체험 크레딧을 받습니다. USDT(TRC20) 또는 USDC(Base)로 충전할 수 있습니다.
ストリーミングと関数呼び出しの処理
SSE를 통해 스트리밍이 지원됩니다. 스트림의 마지막 청크에는 토큰 사용 정보가 포함되어 실시간으로 비용을 추적할 수 있습니다.
함수 호출(도구)은 완전히 지원됩니다. 요청에 도구를 정의하고 모델이 언제 사용할지 결정하게 할 수 있습니다. 구조화된 출력을 위해 JSON 모드도 사용할 수 있습니다.
temperature, top_p, stop, seed는 모두 구성 가능합니다. 이 유연성을 통해 모델의 창의성과 결정론성을 조정할 수 있습니다.
Privacy and Data Usage Policies
귀하의 프롬프트는 학습에 사용되지 않습니다. 이는 많은 무료 또는 저가 제공업체가 모델을 개선하기 위해 귀하의 데이터를 사용하는 것과 구별되는 중요한 차이점입니다.
계정에는 이메일 주소만 필요합니다. 전화번호는 필요하지 않습니다. Google로 가입하거나 표준 이메일과 비밀번호를 사용할 수 있습니다.
하드 콘텐츠 제한이 항상 적용됩니다: 미성년자 관련 성 콘텐츠는 거부됩니다. 기타 모든 합법적인 성인 콘텐츠는 허용됩니다.
일반적인 API 오류トラブルシュー팅
가장 흔한 오류는 속도 제한에 도달하는 것입니다. API는 분당 300회 요청과 키당 8개의 동시 요청을 허용합니다. 이를 초과하면 429 오류가 발생합니다.
또 다른 문제는 요청 본문 크기입니다. 최대 요청 본문 크기는 8MB입니다. 큰 컨텍스트를 전송하는 경우 이 제한 내에 있는지 확인하세요.
오류는 무료입니다. 서버 문제나 잘못된 입력으로 인해 요청이 실패한 경우 해당 토큰에 대해 요금이 부과되지 않습니다.
배포를 위한 최종 체크리스트
서비스 시작 전에 API 키가 활성화되어 있는지 확인하세요. 베이스 URL이 HTTPS://api.dolphinaimodels.com/v1로 올바르게 설정되어 있는지 확인하세요.
스트리밍 구현을 테스트하세요. 선택한 SDK와 함께 함수 호출이 예상대로 작동하는지 확인하세요.
토큰 사용 한도를 확인하세요. 예상된 사용량에 충분한 선불 크레딧이 있는지 확인하세요.
API 키는 언제든지 교체할 수 있습니다. 각 계정에는 하나의 활성 키가 있으며, 새 키를 생성하면 교체됩니다.
자주 묻는 질문
dolphin 모델과 abliterated 모델의 차이점은 무엇인가요?
Dolphin 모델은 새로운 데이터셋으로 미세 조정되어 날카롭지만 일관된 스타일을 제공합니다. Abliterated 모델은 거부 메커니즘이 삭제되어 원래 모델의 기본 지식을 보존합니다. 두 방법 모두 합법적인 성인 사용을 위해 콘텐츠 필터를 효과적으로 제거합니다.
API는 스트리밍과 함수 호출을 지원하나요?
예, API는 서버 전송 이벤트(SSE)를 통한 스트리밍을 지원하며 마지막 청크에 토큰 사용량을 포함합니다. 함수 호출(tools)과 구조화된 출력을 위한 JSON 모드가 완전히 지원됩니다.
크레디트를 충전하는 방법은 무엇인가요?
USDT(TRC20) 또는 USDC(Base)를 사용하여 충전할 수 있습니다. 최소 금액은 $20, 최대 금액은 $500입니다. 보너스 크레딧이 적용됩니다: $50 충전 시 +5%, $100 충전 시 +10%, $200 충전 시 +15%.
어떤 결제 수단을 받나요?
암호화폐 전용: TRC20의 USDT 또는 Base의 USDC, $20부터 $500까지 정수 금액. $50부터 보너스 크레딧이 적용됩니다.
API 키 잠금 해제
가입하고, 키를 가져온 후, 베이스 URL을 업데이트하세요. 몇 초면 완료됩니다.
계정 열기