Szybki start: API Chat Completions

Wymagania wstępne i Base URL

Nasz API jest w pełni kompatybilny ze standardowym interfejsem uzupełniania czatu OpenAI. Potrzebujesz tylko adresu bazowego URL i klucza API, aby rozpocząć wysyłanie żądań. Adres bazowy to HTTPS://api.howmuchisanapikey.com/v1. Ten pojedynczy punkt końcowy obsługuje generowanie tekstu bez konieczności zarządzania wieloma adresami URL usług lub konfiguracjami proxy.

Uwierzytelnianie jest proste. Musisz dołączyć nagłówek Authorization ze schematem Bearer oraz swoim unikalnym kluczem. Każde żądanie do endpointu chat completions wymaga tego nagłówka, aby zweryfikować Twoje konto i śledzić zużycie tokenów wobec salda kredytowego.

Uwierzytelnianie i nagłówki

Dołącz nagłówek Authorization do każdego żądania, aby zweryfikować swoją tożsamość. Format nagłówka to Authorization: Bearer TWOJ_KLUCZ_API. Jeśli klucz jest nieprawidłowy lub wygasł, API zwraca błąd 401 natychmiast. Zapewnia to, że tylko autoryzowane konta mogą zużywać Twój kredyt z góry.

Nie musisz przekazywać dodatkowych nagłówków do podstawnej generacji tekstu. Jednak jeśli używasz specyficznych funkcji takich jak tryb JSON lub wywoływanie funkcji, musisz ustawić nagłówek Content-Type na application/json. Informuje to serwer, jak poprawnie sparsować ciało żądania.

Wysyłanie twojego pierwszego chat completion

Wyślij żądanie POST do /v1/chat/completions z historią swoich wiadomości i identyfikatorem modelu. Identyfikator modelu to "uncensored". Model jest dostrojony do odpowiadania bez odmów dla legalnej treści dla dorosłych, fikcji lub tematów kontrowersyjnych. Nie filtruje na podstawie standardowych norm politycznych czy społecznych.

Oto podstawowy przykład curl, aby zacząć:

Copycurl https://api.howmuchisanapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a simple hello world function in python"}]
  }'

Odpowiedź będzie zawierać wygenerowany tekst w tablicy choices. Możesz go bezpośrednio przeanalizować w logice swojej aplikacji. Każde żądanie zużywa tokeny wejściowe dla Twojego promptu i tokeny wyjściowe dla odpowiedzi modelu.

Strumieniowanie odpowiedzi i zużycie tokenów

Użyj Wysyłanych Wydarzeń Serwerowych (SSE), aby otrzymywać tokeny w miarę ich generowania. To zmniejsza postrzegane opóźnienie dla długich wyjść. Ustaw parametr stream na true w ciele żądania. Serwer wyśle wiele fragmentów, z których każdy zawiera częściową delta odpowiedzi.

Ostatni fragment zawiera dane dotyczące użycia. Obiekt ten zawiera całkowitą liczbę zużytych tokenów wejściowych i wyjściowych przez żądanie. Możesz użyć tych danych do zaktualizowania lokalnego salda kredytu lub monitorowania wydatków w czasie rzeczywistym. Strumieniowanie jest idealne dla interfejsów czatu, gdzie użytkownicy oczekują natychmiastowej informacji zwrotnej.

Wywoływanie funkcji i tryb JSON

API obsługuje dane strukturalne poprzez tryb JSON i wywoływanie funkcji. Ustaw response_format na {"type": "json_object"}, aby wymusić zwrócenie przez model poprawnego JSON. Jest to przydatne do ekstrakcji danych lub generowania skonfigurowanych struktur bez błędów parsowania.

Dla wywoływania funkcji podaj tablicę tools w swoim żądaniu. Model odpowie tool_calls, jeśli uzna, że potrzebna jest funkcja. Możesz następnie wykonać funkcję i przesłać wynik z powrotem do modelu. To umożliwia złożone wieloetapowe przepływy pracy bez zewnętrznej logiki parsowania.

Obsługa limitów i błędów

Limit to 300 żądań na minutę na klucz i 8 żądań równoległych. Jeśli przekroczysz te limity, otrzymasz błąd 429 Too Many Requests. Ciało odpowiedzi zawiera szczegóły retry-after. Dostosuj ograniczanie szybkości po stronie klienta, aby uniknąć niepotrzebnych ponownych prób.

Jeśli wyczerpiesz kredyt prepaid, API zwróci błąd 402 Payment Required. Możesz doładować środki w dowolnym czasie za pomocą kryptowalut. Błędy i odrzucenia są darmowe, więc płacisz tylko za pomyślną generację tokenów. Okno kontekstowe wynosi 100,000 tokenów dla promptu i uzupełnienia łącznie.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.howmuchisanapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.howmuchisanapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)