Dolphin AI: Przewodnik produkcyjny
Modele Dolphin AI oferują odrębne podejście do generowania języka bez cenzury, dostarczając deweloperom opcje o otwartych wagach, które omijają filtry treści głównych dostawców. Przewodnik ten wyjaśnia różnice techniczne między modelami abliterowanymi a dostrojonymi (fine-tuned), szczegółowo opisuje integrację ze standardowymi bibliotekami SDK kompatybilnymi z OpenAI oraz przedstawia opłacalny model rozliczeń z góry dla wdrożeń o dużym wolumenie.
Ostatnia aktualizacja
Podsumowanie
- Modele Dolphin są dostrojone na nowych zbiorach danych, podczas gdy modele abliterowane mają usunięte mechanizmy odmowy, oferując różne style zachowań bez cenzury.
- Nasze API obsługuje pojedynczy model bez ograniczeń poprzez standardowy punkt końcowy /v1/chat/completions, zapewniając kompatybilność z istniejącym kodem klienta.
- Rozliczenie tokenów z góry opłacone zaczyna się od $0.15 za milion tokenów wejściowych, a doładowania kryptowalutą oferują kredyty bonusowe za większe kwoty.
- Usługa obsługuje okno kontekstowe 100k-tokenów i odpowiedzi strumieniowe, co czyni ją odpowiednią dla aplikacji o długim kontekście.
Dlaczego wybrać LLM bez cenzury do produkcji
Modele bez cenzury usuwają uprzejme odmowy, które standardowe modele językowe stosują do tematów twórczych, dla dorosłych lub kontrowersyjnych. Programiści wybierają tę ścieżkę, gdy potrzebują generowania surowego tekstu bez logiki wstępnej filtracji zakłócającej konkretny przypadek użycia ich aplikacji.
Główni dostawcy często filtrują treść na poziomie API, co może przerywać przepływy pracy, które polegają na wyraźnym języku lub niszowych tematach. LLM bez cenzury pozwala Twojej aplikacji na lokalne zarządzanie moderacją treści, dając Ci pełną kontrolę nad tym, co pojawia się u użytkowników końcowych.
- Pełna wolność twórcza dla fikcji i odgrywania ról.
- Brak nieoczekiwanych odmów dla legalnych treści dla dorosłych.
- Spójne zachowanie w przypadku kontrowersyjnych tematów.
Zrozumienie modeli Dolphin vs. Abliterated
Główna różnica polega na tym, jak model osiąga swój uncenzurowany stan. Modele Dolphin są dostrajane na nowych zbiorach danych, co skutkuje "ostrożym", ale spójnym stylem. Modele abliterowane mają usuniętą część "odmowy" w sieci neuronowej, zachowując podstawową wiedzę oryginalnego modelu.
Żadna z tych metod nie jest uniwersalnie lepsza. Fine-tuning może poprawić przestrzeganie instrukcji, podczas gdy abliteration zachowuje oryginalny głos modelu. Obie metody skutecznie usuwają filtry treści dla prawnego użytku dorosłego.
| Metoda | Przetwarzaj | Wynik |
|---|---|---|
| Dolphin | Dopasowywanie | Odważny, spójny tekst |
| Zabliterowany | Usuwanie odmowy | Oryginalny głos modelu, bez filtrów |
Integracja Endpointu Zgodnego z OpenAI
Integracja wymaga zmiany URL bazowego i klucza API w istniejącej konfiguracji SDK OpenAI. Nasze API obsługuje pojedynczy model o ID "uncensored" poprzez standardowe endpointy.
To podejście oznacza, że możesz użyć tego samego kodu klienta, który działa z GPT-4 lub Claude. Po prostu wskaż SDK na nasz serwer. API obsługuje strumieniowanie, wywoływanie funkcji i tryb JSON.
Bazowy URL: HTTPS://api.dolphinaimodels.com/v1
ID modelu: "uncensored"
Punkty końcowe: POST /v1/chat/completions i GET /v1/models.
Zarządzanie oknami kontekstowymi i limitami tokenów
API obsługuje okno kontekstowe o pojemności 100 000 tokenów, które obejmuje tokeny promptu i uzupełnienia. Pozwala to na pracę z długimi dokumentami lub przedłużonymi rozmowami bez natychmiastowego obcinania danych.
Maksymalne wyjście na żądanie wynosi 16,000 tokenów. Jeśli nie określisz max_tokens, domyślnie wynosi ono 2,048 tokenów. Limit ten zapewnia spójną wydajność dla odpowiedzi strumieniowych.
Monitoruj zużycie tokenów dokładnie. Błędy i odrzucenia nie zużywają kredytu, więc możesz testować swoje prompty bez kosztów.
Optymalizacja kosztów z kredytami prepaid
Kredyt jest naliczany na podstawie rzeczywistego zużycia tokenów, przy czym tokeny wejściowe kosztują $0.15 za milion, a tokeny wyjściowe $0.50 za milion. Nie ma miesięcznych opłat ani subskrypcji.
Doładowania kryptowalutą zaczynają się od $20 i sięgają $500. Bonusowe kredyty stosują się do większych kwot: +5% za $50, +10% za $100 i +15% za $200. Kredyt nigdy nie wygasa.
Nowe konta otrzymują $0.50 kredytu próbnego, ważnego przez 7 dni. Możesz doładować konto za pomocą USDT (TRC20) lub USDC (Base).
Obsługa strumieniowania i wywoływania funkcji
Strumieniowanie jest obsługiwane przez Wysyłane Wydarzenia Serwera (SSE). Ostatni fragment strumienia zawiera informacje o użyciu tokenów, umożliwiając śledzenie kosztów w czasie rzeczywistym.
Wywoływanie funkcji (narzędzia) jest w pełni obsługiwane. Możesz zdefiniować narzędzia w żądaniu i pozwolić modelowi zdecydować, kiedy ich używać. Dostępny jest również tryb JSON dla danych strukturalnych.
Parametry takie jak temperatura, top_p, stop i seed są konfigurowalne. Ta elastyczność pozwala dostosować kreatywność i determinizm modelu.
Polityki prywatności i wykorzystania danych
Twoje prompty nie są wykorzystywane do trenowania. To kluczowa różnica w stosunku do wielu darmowych lub tanich dostawców, którzy wykorzystują Twoje dane do ulepszania swoich modeli.
Do założenia konta wystarczy tylko adres e-mail. Nie jest potrzebny numer telefonu. Możesz zarejestrować się za pomocą Google lub użyć standardowego adresu e-mail i hasła.
Zawsze obowiązuje twardy limit treści: treści seksualne z udziałem małoletnich są odrzucane. Pozostała prawna treść dla dorosłych jest dozwolona.
Rozwiązywanie typowych błędów API
Najczęstszym błędem jest przekroczenie limitu szybkości. API pozwala na 300 żądań na minutę i 8 równoległych żądań na klucz. Jeśli przekroczysz ten limit, otrzymasz błąd 429.
Kolejnym problemem jest rozmiar ciała żądania. Maksymalny rozmiar ciała żądania wynosi 8 MB. Jeśli wysyłasz duże konteksty, upewnij się, że mieścisz się w tym limicie.
Błędy są darmowe. Jeśli żądanie nie powiedzie się z powodu problemu z serwerem lub nieprawidłowych danych wejściowych, nie jesteś rozliczany za te tokeny.
Końcowa lista kontrolna wdrożenia
Przed przejściem na produkcję zweryfikuj, czy Twój klucz API jest aktywny. Upewnij się, że adres bazowy jest poprawnie ustawiony na HTTPS://api.dolphinaimodels.com/v1.
Przetestuj swoją implementację streamingową. Potwierdź, że wywoływanie funkcji działa zgodnie z oczekiwaniami przy użyciu wybranego SDK.
Sprawdź limity zużycia tokenów. Upewnij się, że masz wystarczające środki z góry opłacone na przewidywaną objętość.
Pamiętaj, że możesz zastąpić swój klucz API w dowolnym momencie. Każde konto ma jeden aktywny klucz, który jest zastępowany po wygenerowaniu nowego.
Typowe pytania
Jaka jest różnica między modelami dolphin a modelami abliterated?
Modele Dolphin są dostrojone na nowych zbiorach danych, co skutkuje ostrzejszym, ale spójnym stylem. Modele abliterowane mają usunięte mechanizmy odmowy, zachowując podstawową wiedzę oryginalnego modelu. Obie metody skutecznie usuwają filtry treści dla prawnych treści dla dorosłych.
Czy API obsługuje strumieniowanie i wywoływanie funkcji?
Tak, API obsługuje strumieniowanie przez Server-Sent Events (SSE) i zawiera użycie tokenów w ostatnim fragmencie. Wywoływanie funkcji (narzędzia) jest w pełni obsługiwane, wraz z trybem JSON dla strukturalnych danych wyjściowych.
Jak doładować kredyt?
Możesz doładować saldo za pomocą USDT (TRC20) lub USDC (Base). Minimalna kwota to $20, a maksymalna to $500. Bonusy są naliczane: +5% za $50, +10% za $100 oraz +15% za $200.
Jakie metody płatności akceptujecie?
Tylko krypto: USDT w sieci TRC20 lub USDC na Base, dowolna kwota całkowita od $20 do $500. Bonusowy kredyt przy kwotach od $50.
Odblokuj swój klucz API
Zarejestruj się, pobierz klucz, zaktualizuj bazowy URL. Całość zajmuje kilka sekund.
Otwórz konto