Dolphin AI: Руководство по производству

Почему стоит выбрать uncensored LLM для продакшена

Модели без цензуры убирают вежливые отказы, которые стандартные LLM применяют к творческим, взрослым или спорным темам. Разработчики выбирают этот путь, когда им нужна генерация сырого текста без вмешательства логики предварительной фильтрации в конкретный сценарий использования их приложения.

Крупные провайдеры часто фильтруют контент на уровне API, что может нарушать рабочие процессы, которые полагаются на явный язык или узкие темы. LLM без ограничений позволяет вашему приложению осуществлять модерацию контента локально, давая вам полный контроль над тем, что видят конечные пользователи.

• Полная творческая свобода для художественной литературы и ролевых игр.
• Нет неожиданных отказов для законного контента для взрослых.
• Последовательное поведение в спорных темах.

Понимание моделей Dolphin и Abliterated

Основное различие заключается в том, как модель достигает своего состояния без цензуры. Модели Dolphin дообучаются на новых наборах данных, что приводит к «дерзкому», но связному стилю. Аблибранные модели имеют удаленную часть нейронной сети, отвечающую за «отказ», что сохраняет базовые знания исходной модели.

Ни один из подходов не является универсально лучшим. Дообучение (fine-tuning) улучшает следование инструкциям, а абллитерация (abliteration) сохраняет оригинальный голос модели. Оба метода эффективно снимают контентные фильтры для законного использования взрослым контентом.

Метод	Обработка	Результат
Dolphin	Дообучение	Острый текст с высокой связностью
Abliterated	Удаление отказов	Оригинальный голос модели, без фильтров

Подключение конечной точки, совместимой с OpenAI

Интеграция требует изменения базового URL и API-ключа в вашей существующей конфигурации SDK OpenAI. Наш API обслуживает единственную модель с идентификатором "uncensored" через стандартные конечные пункты.

Этот подход означает, что вы можете использовать тот же клиентский код, который работает с GPT-4 или Claude. Вам просто нужно указать SDK на наш сервер. API поддерживает потоковую передачу, вызовы функций и режим JSON.

Базовый URL: HTTPS://api.dolphinaimodels.com/v1

Идентификатор модели: "uncensored"

Конечные точки: POST /v1/chat/completions и GET /v1/models.

Управление контекстными окнами и лимитами токенов

API поддерживает контекстное окно на 100 000 токенов, которое включает токены промпта и завершения. Это позволяет работать с длинными документами или продолжительными диалогами без немедленного усечения.

Однако максимальный вывод за запрос составляет 16,000 токенов. Если вы не укажете max_tokens, по умолчанию установлено значение 2,048 токенов. Этот лимит обеспечивает стабильную производительность для потоковых ответов.

Отслеживайте использование токенов внимательно. Ошибки и отказы не потребляют кредит, поэтому вы можете тестировать свои промпты бесплатно.

Оптимизация затрат с предоплаченным кредитом

Кредит списывается за фактическое использование токенов, при этом входные токены стоят $0.15 за миллион, а выходные — $0.50 за миллион. Нет ежемесячных комиссий или подписок.

Пополнение криптой начинается от $20 и достигает $500. Бонусные кредиты применяются к большим суммам: +5% для $50, +10% для $100 и +15% для $200. Кредиты никогда не истекают.

Новые аккаунты получают пробный кредит на $0.50, действительный в течение 7 дней. Вы можете пополнить баланс с помощью USDT (TRC20) или USDC (Base).

Обработка потоковой передачи и вызова функций

Поддерживается потоковая передача через события, отправляемые сервером (SSE). Последний блок потока включает информацию об использовании токенов, что позволяет отслеживать расходы в реальном времени.

Использование инструментов (tools) полностью поддерживается. Вы можете определить инструменты в запросе и позволить модели решить, когда их использовать. Также доступен режим JSON для структурированных выводов.

Параметры temperature, top_p, stop и seed полностью настраиваемы. Эта гибкость позволяет настраивать креативность и детерминированность модели.

Политики конфиденциальности и использования данных

Ваши промпты не используются для обучения. Это важное отличие от многих бесплатных или недорогих провайдеров, которые используют ваши данные для улучшения своих моделей.

Для аккаунта требуется только адрес электронной почты. Номер телефона не нужен. Вы можете зарегистрироваться через Google или использовать стандартную электронную почту и пароль.

Всегда действует жесткое ограничение на контент: запрещен сексуальный контент с участием несовершеннолетних. Весь остальной законный контент для взрослых разрешен.

Устранение распространенных ошибок API

Самая распространенная ошибка — превышение лимита частоты запросов. API позволяет 300 запросов в минуту и 8 одновременных запросов на ключ. Если вы превысите этот лимит, вы получите ошибку 429.

Ещё одна проблема — размер тела запроса. Максимальный размер тела запроса составляет 8 МБ. Если вы отправляете большие контексты, убедитесь, что укладываетесь в этот лимит.

Ошибки бесплатны. Если запрос завершается неудачей из-за проблемы на сервере или некорректных входных данных, вы не платите за эти токены.

Итоговый контрольный список для развертывания

Перед запуском убедитесь, что ваш API-ключ активен. Убедитесь, что базовый URL правильно установлен на HTTPS://api.dolphinaimodels.com/v1.

Протестируйте реализацию потоковой передачи. Подтвердите, что вызов функций работает как ожидалось с выбранным SDK.

Проверьте лимиты использования токенов. Убедитесь, что у вас достаточно предоплаченного кредита для запланированного объема.

Помните, что вы можете заменить свой API-ключ в любое время. У каждого аккаунта есть один активный ключ, который заменяется при генерации нового.