Mula Cepat: API Penyelesaian Sembang

Prasyarat dan URL asas

API kami sepenuhnya serasi dengan antara muka penyelesaian sembang OpenAI piawai. Anda hanya memerlukan URL asas dan kunci API untuk mula menghantar permintaan. URL asas ialah HTTPS://api.howmuchisanapikey.com/v1. Hujung titik tunggal ini mengendalikan semua penjanaan teks tanpa memerlukan anda menguruskan berbilang URL perkhidmatan atau konfigurasi proksi.

Pengesahihan adalah mudah. Anda mesti termasuk header Authorization dengan skema Bearer diikuti oleh kunci unik anda. Setiap permintaan ke hujung penyelesaian chat memerlukan header ini untuk mengesahkan akaun anda dan menjejak penggunaan token terhadap baki kredit pra-dibayar anda.

Pengesahan dan header

Termasuk header Authorization dalam setiap permintaan untuk mengesahkan identiti anda. Format header ialah Authorization: Bearer YOUR_API_KEY. Jika kunci tidak sah atau luput, API akan mengembalikan ralat 401 serta-merta. Ini memastikan hanya akaun yang berwibawa boleh menggunakan kredit prabayar anda.

Anda tidak perlu menghantar pengepala tambahan untuk penjanaan teks asas. Walau bagaimanapun, jika anda menggunakan ciri khusus seperti mod JSON atau panggilan fungsi, anda mesti menetapkan pengepala Content-Type kepada application/json. Ini memberitahu pelayan cara menguraikan badan permintaan anda dengan betul.

Menghantar penyiapan sembang pertama anda

Hantar permintaan POST ke /v1/chat/completions dengan sejarah mesej anda dan pengenal pasti model. Model id ialah "uncensored". Model ini ditala untuk menjawab tanpa penolakan untuk kandungan dewasa yang sah, fiksyen, atau topik kontroversi. Ia tidak menapis berdasarkan norma politik atau sosial standard.

Berikut adalah contoh curl asas untuk memulakan penggunaan:

Copycurl https://api.howmuchisanapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a simple hello world function in python"}]
  }'

Respons akan mengandungi teks yang dijana dalam pilihan array. Anda boleh menguraikannya terus ke dalam logik aplikasi anda. Setiap permintaan menggunakan token input untuk prompt anda dan token output untuk respons model.

Penggunaan token respons aliran

Gunakan Acara Dihantar Pelayan (SSE) untuk menerima token semasa ia dijana. Ini mengurangkan latensi yang dirasakan untuk output panjang. Tetapkan parameter aliran kepada true dalam badan permintaan anda. Pelayan akan menghantar beberapa pecahan, setiap satunya mengandungi delta separa respons.

Bungkusan akhir termasuk data penggunaan. Objek ini mengandungi jumlah token input dan output yang digunakan oleh permintaan. Anda boleh menggunakan data ini untuk mengemas kini baki kredit tempatan anda atau memantau perbelanjaan anda secara masa nyata. Penstriman sangat sesuai untuk antara muka sembang di mana pengguna mengharapkan maklum balas segera.

Pemanggilan fungsi dan mod JSON

API ini menyokong output berstruktur melalui mod JSON dan panggilan fungsi. Tetapkan response_format kepada {"type": "json_object"} untuk memaksa model mengembalikan JSON yang sah. Ini berguna untuk mengekstrak data atau menjana konfigurasi berstruktur tanpa ralat penguraian.

Untuk panggilan fungsi, berikan larisan alat dalam permintaan anda. Model akan bertindak balas dengan tool_calls jika ia menentukan fungsi diperlukan. Anda kemudian boleh melaksanakan fungsi dan menghantar hasilnya kembali ke model. Ini membolehkan aliran kerja berbilang langkah yang kompleks tanpa logik penguraian luar.

Mengendalikan had dan ralat

Anda terhad kepada 300 permintaan setiap minit setiap kunci dan 8 permintaan serentak. Jika anda melebihi had-had ini, anda akan menerima ralat 429 Too Many Requests. Badan respons akan termasuk butiran retry-after. Laraskan pengecilan sisi klien untuk mengelakkan cubaan semula yang tidak perlu.

Jika kredit pra-dibayar anda habis, API mengembalikan ralat 402 Pembayaran Diperlukan. Anda boleh menambah kredit melalui kripto pada bila-bila masa. Ralat dan penolakan adalah percuma, jadi anda hanya membayar untuk penjanaan token yang berjaya. Tetingkap konteks ialah 100,000 token untuk prompt dan penyelesaian digabungkan.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.howmuchisanapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.howmuchisanapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)