Gyors beállítások: Chat Completions API

Előfeltételek és base URL

Az API-nk teljesen kompatibilis a szabványos OpenAI chat completions interfésszel. Csak egy base URL-re és egy API-kulcsra van szüksége a kérések küldésének megkezdéséhez. A base URL: HTTPS://api.howmuchisanapikey.com/v1. Ez az egyetlen végpont kezeli az összes szöveggenerálást anélkül, hogy több szolgáltatási URL-t vagy proxy konfigurációt kellene kezelnie.

A hitelesítés egyszerű. Tartalmaznia kell egy Authorization fejlécet Bearer sémával, amelyet a egyedi kulcs követ. Minden kéréshez a chat completions végponthoz ez a fejléc szükséges a fiók érvényesítéséhez és a tokenhasználat nyomon követéséhez a előre fizetett hitel egyenlegén.

Hitelesítés és fejlécek

Tartalmazza az Authorization fejlécet minden kérésben a személyazonosság igazolásához. A fejléc formátuma: Authorization: Bearer YOUR_API_KEY. Ha a kulcs érvénytelen vagy lejárt, az API azonnal 401-es hibát ad vissza. Ez biztosítja, hogy csak a jogosult fiókok fogyaszthassák az előre fizetett kreditet.

Nem kell további fejléceket átadnod az alap szöveggeneráláshoz. Azonban, ha specifikus funkciókat használsz, mint a JSON mód vagy a függvényhívás, be kell állítanod a Content-Type fejlécet application/json értékre. Ez jelzi a szervernek, hogyan kell helyesen értelmeznie a kérés törzsét.

Az első chat befejezés küldése

Küldjön egy POST kérést a /v1/chat/completions végpontra az üzenettörténetével és a modellazonosítóval. A modellazonosító "uncensored". Ez a modell visszautasítások nélkül válaszol jogszerű felnőtt tartalmakra, fikcióra vagy vitatott témákra. Nem szűri a szabványos politikai vagy társadalmi normák alapján.

Íme egy alap curl példa a kezdéshez:

Copycurl https://api.howmuchisanapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a simple hello world function in python"}]
  }'

A válasz a generált szöveget tartalmazza a choices tömbben. Ez közvetlenül beépíthető az alkalmazás logikájába. Minden kérés bemeneti tokeneket fogyaszt a promptja után, és kimeneti tokeneket a modell válasza után.

A streamelt válaszok és a token használat

Használja a Szerveroldali Eseményeket (SSE) a tokenek fogadására generálás közben. Ez csökkenti az észlelt késleltést hosszú kimeneteknél. Állítsa be a stream paramétert true-ra a kérés törzsében. A szerver több darabot küld, mindegyik egy részleges delta-t tartalmazva a válaszból.

A végleges darab tartalmazza a használati adatokat. Ez az objektum tartalmazza a kérés által felhasznált teljes bemeneti és kimeneti tokeneket. Használhatja ezt az adatot a helyi kreditegyenleg frissítésére vagy a költések valós idejű monitorozására. A streamelés ideális chat felületekhez, ahol a felhasználók azonnali visszajelzést várnak.

Function calling és JSON mód

Az API támogatja a strukturált kimenetet JSON módon és függvényhíváson keresztül. Állítsd a response_format paramétert {"type": "json_object"} értékre, hogy a modell érvényes JSON-t adjon vissza. Ez hasznos adatok kinyeréséhez vagy strukturált konfigurációk generálásához hibamentes feldolgozással.

Függvényhívások esetén adja meg a tools tömböt a kérésben. A modell tool_calls tömbbel válaszol, ha úgy ítéli meg, hogy függvényre van szükség. Ezután végrehajthatja a függvényt, és visszaküldheti az eredményt a modellnek. Ez lehetővé teszi a komplex, több lépéses munkafolyamatok megvalósítását külső elemző logika nélkül.

Korlátok és hibák kezelése

Per perc 300 kérést engedélyezünk kulcsonként és 8 párhuzamos kérést. Ha túlléped ezeket a korlátokat, 429 Too Many Requests hibát kapsz. A válasz törzse retry-after részleteket tartalmaz. Állítsd be az ügyfél oldali korlátozást a felesleges újrapróbálások elkerülése érdekében.

Ha az előre fizetett hiteléd kimerült, az API 402 Payment Required hibát ad vissza. Bármikor feltöltheted kriptovalutával. A hibák és elutasítások ingyenesek, így csak a sikeres token generálásért fizetsz. A kontextus ablak 100,000 token a prompt és a kiegészítés együttvéve.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.howmuchisanapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.howmuchisanapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)