Rychlý start: API Chat Completions

Požadavky a základní URL

Naše API je plně kompatibilní se standardním rozhraním chatových dokončení OpenAI. K zahájení odesílání požadavků potřebujete pouze základní URL a klíč API. Základní URL je HTTPS://api.howmuchisanapikey.com/v1. Tento jediný endpoint zpracovává všechny generace textu bez nutnosti spravovat více URL služeb nebo konfigurace proxy.

Ověření je přehledné. Musíte zahrnout hlavičku Authorization s režimem Bearer následovaným vaším unikátním klíčem. Každá žádost do koncového bodu chatových dokončení vyžaduje tuto hlavičku k ověření vašeho účtu a sledování využití tokenů proti vašemu předplacenému zůstatku kreditu.

Ověření a hlavičky

Zahrňte hlavičku Authorization do každého požadavku k ověření vaší identity. Formát hlavičky je Authorization: Bearer YOUR_API_KEY. Pokud je klíč neplatný nebo expirovaný, API vrátí chybu 401 ihned. To zajišťuje, že pouze autorizované účty mohou spotřebovávat váš předplacený kredit.

Pro základní generování textu nepotřebujete předávat další hlavičky. Pokud však používáte specifické funkce, jako je režim JSON nebo volání funkcí, musíte nastavit hlavičku Content-Type na application/json. To řekne serveru, jak správně parsovat tělo vašeho požadavku.

Odeslání vašeho prvního dokončení chatu

Odešlete požadavek POST na /v1/chat/completions s historií svých zpráv a identifikátorem modelu. Id modelu je "uncensored". Tento model je vyladěn tak, aby odpovídal bez odmítnutí u legálního obsahu pro dospělé, fikce nebo kontroverzních témat. Nefiltruje na základě standardních politických nebo sociálních norem.

Zde je základní příklad pomocí curl pro začátek:

Copycurl https://api.howmuchisanapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a simple hello world function in python"}]
  }'

Odpověď bude obsahovat vygenerovaný text v poli choices. Tento výsledek můžete přímo parsovat do logiky vaší aplikace. Každý požadavek spotřebuje vstupní tokeny za váš prompt a výstupní tokeny za odpověď modelu.

Streamování odpovědí a využití tokenů

Použijte Server-Sent Events (SSE) k přijímání tokenů, jak jsou generovány. To snižuje vnímanou latenci pro dlouhé výstupy. Nastavte parametr stream na true v těle požadavku. Server bude odesílat více chunků, každý obsahující částečný delta odpovědi.

Poslední chunk zahrnuje data o využití. Tento objekt obsahuje celkový počet vstupních a výstupních tokenů spotřebovaných požadavkem. Tato data můžete použít k aktualizaci místního zůstatku kreditu nebo k monitorování výdajů v reálném čase. Streamování je ideální pro chatová rozhraní, kde uživatelé očekávají okamžitou zpětnou vazbu.

Volání funkcí a režim JSON

API podporuje strukturované výstupy prostřednictvím režimu JSON a volání funkcí. Nastavte response_format na {"type": "json_object"}, aby model vynutil vrácení platného JSON. To je užitečné pro extrakci dat nebo generování strukturovaných konfigurací bez chyb při parsování.

Pro volání funkcí poskytněte v požadavku pole tools. Model odpovdí s tool_calls, pokud určí, že je potřeba funkce. Poté můžete funkci vykonat a výsledek odeslat zpět modelu. To umožňuje komplexní vícekrokové pracovní postupy bez externí logiky pro parsování.

Zvládání limitů a chyb

Jste omezeni na 300 požadavků za minutu na klíč a 8 souběžných požadavků. Pokud tato omezení překročíte, obdržíte chyru 429 Too Many Requests. Tělo odpovědi bude obsahovat podrobnosti o retry-after. Upravte stranové omezení klienta, abyste předešli zbytečným opakováním.

Pokud je váš předplacený kredit vyčerpán, API vrátí chybu 402 Payment Required. Kredit můžete doplnit pomocí kryptoměn kdykoli. Chyby a odmítnutí jsou zdarma, takže platíte pouze za úspěšnou generaci tokenů. Okno kontextu má velikost 100,000 tokenů pro prompt i completion dohromady.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.howmuchisanapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.howmuchisanapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)