Dolphin AI: Produktionsguide

Hvorfor vælge en ubegrænset LLM til produktion

Uncensurerede modeller fjerner de høflige afvisninger, som standard LLM'er anvender til kreativt, voksen- eller kontroversielt indhold. Udviklere vælger denne sti, når de har brug for rå tekstgenerering uden, at forfilteringslogik forstyrrer deres applikations specifikke use case.

Vigtige udbydere filtrerer ofte indhold på API-niveau, hvilket kan afbryde workflows, der er afhængige af eksplicit sprog eller nischetopikker. En ukensureret LLM giver din applikation mulighed for at håndtere indholdsmodulering lokalt, hvilket giver dig fuld kontrol over, hvad der vises for slutbrugere.

• Fuld kreativ frihed til fiktion og rollespil.
• Ingen uventede afvisninger for lovligt voksenindhold.
• Konsistent adfærd på tværs af kontroversielle emner.

Forståelse af Dolphin vs. abliterede modeller

Den grundlæggende forskel ligger i, hvordan modellen opnår sin uncensored-tilstand. Dolphin-modeller er fine-tuned på nye datasæt, hvilket resulterer i en "edgy" men sammenhængende stil. Abliterede modeller har "refusal"-delen af det neurale netværk slettet, hvilket bevarer originalmodellens basale viden.

Hverken af tilgangene er universelt bedre. Finjustering kan forbedre overholdelse af instrukser, mens abliteration bevarer den oprindelige models stemme. Begge metoder fjerner effektivt indholdsfiltre til lovligt voksenbrug.

Metode	Process	Resultat
Dolphin	Finjustering	Provokerende, højkohærent tekst
Abliterated	Sletning ved afslag	Original stemme, ingen filtre

Integration af OpenAI-kompatibelt Endpoint

Integration kræver, at du ændrer base-URL'en og API-nøglen i din eksisterende OpenAI SDK-konfiguration. Vores API leverer en enkelt model med ID'et "uncensored" via de standard endpoints.

Denne tilgang betyder, at du kan bruge den samme klientkode, der fungerer med GPT-4 eller Claude. Du peger blot SDK'en til vores server. API'et understøtter streaming, function calling og JSON-tilstand.

Base URL: HTTPS://api.dolphinaimodels.com/v1

Model-ID: "uncensored"

Endpoints: POST /v1/chat/completions og GET /v1/models.

Håndtering af kontekstvinduer og tokenbegrænsninger

API'en understøtter et kontekstvindue på 100.000 tokens, som omfatter både prompt- og completion-tokens. Dette gør det muligt at behandle lange dokumenter eller udvidede samtaler uden øjeblikkelig afkortning.

Men det maksimale output pr. anmodning er 16.000 tokens. Hvis du ikke angiver max_tokens, er standardværdien 2.048 tokens. Denne grænse sikrer konsistent ydeevne for streaming-responser.

Overvåg dit tokenforbrug nøje. Fejl og afslag forbruger ikke kredit, så du kan teste dine prompts uden omkostninger.

Optimering af omkostninger med forudbetalt kredit

Kredit opkræves baseret på reel tokenbrug, med input-tokens til $0,15 per million og output-tokens til $0,50 per million. Der er ingen månedlige gebyrer eller abonnementer.

Krypto-top-ups starter ved $20 og går op til $500. Bonuskreditter gælder for større beløb: +5% for $50, +10% for $100 og +15% for $200. Kredit udløber aldrig.

Nye konti modtager $0,50 i prøvekredit, gyldig i 7 dage. Du kan foretage et top-up med USDT (TRC20) eller USDC (Base).

Håndtering af streaming og funktionskald

Streaming understøttes via Server-Sent Events (SSE). Den sidste chunk af streamet inkluderer tokenforbrugsoplysninger, hvilket giver dig mulighed for at spore omkostninger i realtid.

Function calling (værktøjer) understøttes fuldt ud. Du kan definere værktøjer i din anmodning og lade modellen afgøre, hvornår de skal bruges. JSON-tilstand er også tilgængelig til strukturerede output.

Parametre som temperatur, top_p, stop og seed er alle konfigurerbare. Denne fleksibilitet giver dig mulighed for at tilpasse modellens kreativitet og determinisme.

Privatliv og dataforbrugspolitikker

Dine prompts bruges ikke til træning. Dette er en kritisk forskel fra mange gratis eller lavomkostningsudbydere, der bruger dine data til at forbedre deres modeller.

En konto kræver kun en e-mailadresse. Et telefonnummer er ikke nødvendigt. Du kan tilmelde dig med Google eller bruge en standard e-mail og adgangskode.

Et hårdt indholdsgrænse gælder altid: seksuelt indhold, der involverer mindreårige, afvises. Alt andet lovligt voksenindhold er tilladt.

Fejlfinding af almindelige API-fejl

Den mest almindelige fejl er at ramme rate limit. API'et tillader 300 anmodninger i minuttet og 8 samtidige anmodninger per nøgle. Hvis du overskrider dette, modtager du en 429-fejl.

Et andet problem er størrelsen af anmodningskroppen. Den maksimale anmodningskrop er 8 MB. Hvis du sender store kontekster, skal du sikre dig, at du er inden for denne grænse.

Fejl er gratis. Hvis et request fejler på grund af et serverproblem eller ugyldigt input, bliver du ikke opkrævet for disse tokens.

Endelig tjekliste til deployment

Før du går live, skal du verificere, at din API-nøgle er aktiv. Sørg for, at din base-URL er indstillet korrekt til HTTPS://api.dolphinaimodels.com/v1.

Test din streaming-implementering. Bekræft, at function calling fungerer som forventet med dit valgte SDK.

Tjek dine token-forbrugsgrænser. Sørg for, at du har nok forudbetalt kredit til din forventede volumen.

Husk, at du kan erstatte din API-nøgle til enhver tid. Hver konto har én aktiv nøgle, som erstattes, når du genererer en ny.