Dolphin AI: Посібник з виробництва

Чому варто обрати LLM без фільтрів для продакшену

Нецензуровані моделі прибирають ввічливі відмови, які стандартні LLM застосовують до творчих, дорослих чи суперечливих тем. Розробники обирають цей шлях, коли їм потрібна генерація сирого тексту без втручання логіки попередньої фільтрації у специфічний випадок використання їхнього застосунку.

Великі постачальники часто фільтрують контент на рівні API, що може порушити робочі процеси, які покладаються на відкриту мову або нішеві теми. LLM без цензури дозволяє вашій програмі самостійно контролювати контент, надаючи вам повний контроль над тим, що бачать кінцеві користувачі.

• Повна творча свобода для художньої літератури та рольових ігор.
• Немає несподіваних відмов для законного дорослого контенту.
• Постійна поведінка в суперечливих темах.

Розуміння моделей Dolphin проти аблітерованих моделей

Основна різниця полягає в тому, як модель досягає свого нецензурованого стану. Моделі Dolphin доопрацьовані на нових наборах даних, що призводить до «гострого», але зв’язного стилю. Моделі Abliterated мають видалену частину «відмови» в нейронній мережі, що зберігає базові знання оригінальної моделі.

Жоден із підходів не є універсально кращим. Дофайн-тренування може покращити дотримання інструкцій, тоді як аблітерація зберігає голос оригінальної моделі. Обидва методи ефективно знімають фільтри контенту для законного використання дорослими.

Метод	Process	Результат
Dolphin	Доопрацювання	Гострий текст з високою узгодженістю
Абляційований	Видалення відмови	Оригінальний голос моделі, без фільтрів

Інтеграція ендпоінту, сумісного з OpenAI

Інтеграція вимагає зміни базового URL та API-ключів у вашій існуючій конфігурації SDK OpenAI. Наш API обслуговує одну модель з ідентифікатором "uncensored" через стандартні ендпоінти.

Цей підхід означає, що ви можете використовувати той самий код клієнта, який працює з GPT-4 або Claude. Вам просто потрібно вказати SDK на наш сервер. API підтримує потокову передачу, виклик функцій та режим JSON.

Базовий URL: HTTPS://api.dolphinaimodels.com/v1

Ідентифікатор моделі: "uncensored"

Точки доступу: POST /v1/chat/completions та GET /v1/models.

Керування вікнами контексту та лімітами токенів

API підтримує контекстне вікно на 100,000 токенів, що включає токени запиту та відповіді. Це дозволяє працювати з довгими документами або тривалими діалогами без миттєвого обрізання.

Однак, максимальний вихід на запит становить 16 000 токенів. Якщо ви не вказуєте max_tokens, значення за замовчуванням становить 2 048 токенів. Цей ліміт забезпечує стабільну продуктивність для стримінгових відповідей.

Уважно відстежуйте використання токенів. Помилки та відмови не споживають кредит, тому ви можете тестувати свої промпти безкоштовно.

Оптимізація витрат із передоплаченим кредитом

Кредит нараховується за реальним використанням токенів, де вхідні токени коштують $0.15 за мільйон, а вихідні — $0.50 за мільйон. Немає щомісячних платежів чи підписок.

Поповнення криптовалюю починається від $20 і сягає $500. Бонусні кредити застосовуються до більших сум: +5% за $50, +10% за $100 та +15% за $200. Кредит ніколи не згорає.

Новим акаунтам нараховується пробний кредит у розмірі $0.50, дійсний протягом 7 днів. Ви можете поповнити рахунок за допомогою USDT (TRC20) або USDC (Base).

Обробка потокової передачі та виклику функцій

Підтримується потокова передача через події, що надсилаються сервером (SSE). Останній фрагмент потоку містить інформацію про використання токенів, що дозволяє відстежувати витрати в реальному часі.

Виклик функцій (інструменти) повністю підтримується. Ви можете визначити інструменти в своєму запиті та надати моделі вирішити, коли їх використовувати. Також доступний режим JSON для структурованих виводів.

Параметри temperature, top_p, стоп та seed є конфігурованими. Ця гнучкість дозволяє налаштовувати креативність та детермінованість моделі.

Політики використання даних та конфіденційності

Ваші промпти не використовуються для навчання. Це критична відмінність від багатьох безкоштовних або недорогих постачальників, які використовують ваші дані для покращення своїх моделей.

Для облікового запису потрібна лише адреса електронної пошти. Номер телефону не потрібен. Ви можете зареєструватися через Google або використовувати стандартний електронний лист та пароль.

Застосовується жорстке обмеження на вміст: заборонено сексуальний контент із залученням неповнолітніх. Усі інші законні дорослі теми дозволені.

Вирішення поширених помилок API

Найпоширенішою помилкою є перевищення ліміту частоти запитів. API дозволяє 300 запитів на хвилину та 8 одночасних запитів на ключ. Якщо ви перевищите це, ви отримаєте помилку 429.

Інша проблема — розмір тіла запиту. Максимальний розмір тіла запиту становить 8 МБ. Якщо ви надсилаєте великі контексти, переконайтеся, що ви знаходитесь у межах цього ліміту.

Помилки безкоштовні. Якщо запит не вдається через проблему на сервері або невірні вхідні дані, ви не платите за ці токени.

Остаточний чек-лист для розгортання

Перш ніж вийти в ефір, переконайтеся, що ваш API-активний. Переконайтеся, що ваш базовий URL встановлено правильно на HTTPS://api.dolphinaimodels.com/v1.

Протестуйте свою потокову передачу. Переконайтеся, що виклик функцій працює належним чином із вашим обраним SDK.

Перевіряйте ліміти використання токенів. Переконайтеся, що у вас достатньо передоплаченого кредиту для прогнозованого обсягу робіт.

Запам’ятайте, що ви можете в будь-який час замінити свій API-ключ. Кожен обліковий запис має один активний ключ, який замінюється при генерації нового.