Bắt đầu nhanh: API Chat Completions

Điều kiện tiên quyết và base URL

API của chúng tôi tương thích với giao diện hoàn thành trò chuyện chuẩn của OpenAI. Bạn chỉ cần một URL cơ sở và khóa API để bắt đầu gửi yêu cầu. URL cơ sở là HTTPS://api.howmuchisanapikey.com/v1. Điểm cuối đơn lẻ này xử lý tất cả việc tạo văn bản mà không yêu cầu bạn quản lý nhiều URL dịch vụ hoặc cấu hình proxy.

Xác thực rất đơn giản. Bạn phải bao gồm header Authorization với scheme Bearer theo sau là khóa độc nhất của bạn. Mọi yêu cầu đến điểm cuối hoàn thành trò chuyện đều yêu cầu header này để xác thực tài khoản của bạn và theo dõi việc sử dụng token đối với số dư tín dụng trả trước của bạn.

Xác thực và headers

Bao gồm tiêu đề Authorization trong mọi yêu cầu để xác minh danh tính của bạn. Định dạng tiêu đề là Authorization: Bearer YOUR_API_KEY. Nếu khóa không hợp lệ hoặc đã hết hạn, API sẽ trả về lỗi 401 ngay lập tức. Điều này đảm bảo rằng chỉ các tài khoản được ủy quyền mới có thể tiêu thụ tín dụng trả trước của bạn.

Bạn không cần truyền thêm header cho việc tạo văn bản cơ bản. Tuy nhiên, nếu bạn sử dụng các tính năng cụ thể như chế độ JSON hoặc gọi hàm, bạn phải đặt header Content-Type thành application/json. Điều này cho máy chủ biết cách phân tích chính xác thân yêu cầu của bạn.

Gửi yêu cầu hoàn thành trò chuyện đầu tiên của bạn

Gửi yêu cầu POST đến /v1/chat/completions với lịch sử tin nhắn và định danh mô hình của bạn. Model id là "uncensored". Mô hình này được tinh chỉnh để trả lời mà không từ chối đối với nội dung người trưởng thành hợp pháp, truyện hư cấu hoặc các chủ đề gây tranh cãi. Nó không lọc dựa trên các chuẩn mực chính trị hoặc xã hội tiêu chuẩn.

Đây là một ví dụ curl cơ bản để bạn bắt đầu:

Copycurl https://api.howmuchisanapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a simple hello world function in python"}]
  }'

Phản hồi sẽ chứa văn bản được tạo trong mảng choices. Bạn có thể phân tích cú pháp trực tiếp vào logic ứng dụng của mình. Mỗi yêu cầu tiêu tốn token đầu vào cho prompt của bạn và token đầu ra cho phản hồi của mô hình.

Phản hồi dạng stream và mức sử dụng token

Sử dụng Sự kiện gửi máy chủ (SSE) để nhận token khi chúng được tạo. Điều này giảm độ trễ cảm nhận cho các đầu ra dài. Đặt tham số stream thành true trong thân yêu cầu của bạn. Máy chủ sẽ gửi nhiều chunk, mỗi chunk chứa một phần delta của phản hồi.

Chunk cuối cùng bao gồm dữ liệu sử dụng. Đối tượng này chứa tổng số token đầu vào và đầu ra đã được yêu cầu tiêu thụ. Bạn có thể sử dụng dữ liệu này để cập nhật số dư tín dụng cục bộ hoặc giám sát chi tiêu của mình theo thời gian thực. Streaming lý tưởng cho các giao diện trò chuyện nơi người dùng mong đợi phản hồi ngay lập tức.

Gọi hàm và chế độ JSON

API hỗ trợ đầu ra có cấu trúc thông qua chế độ JSON và gọi hàm. Đặt response_format thành {"type": "json_object"} để buộc mô hình trả về JSON hợp lệ. Điều này hữu ích để trích xuất dữ liệu hoặc tạo cấu hình có cấu trúc mà không gặp lỗi phân tích cú pháp.

Đối với việc gọi hàm, hãy cung cấp mảng tools trong yêu cầu của bạn. Mô hình sẽ phản hồi với tool_calls nếu nó xác định cần một hàm. Sau đó, bạn có thể thực thi hàm và gửi kết quả trở lại mô hình. Điều này cho phép các quy trình làm việc nhiều bước phức tạp mà không cần logic phân tích cú pháp bên ngoài.

Xử lý giới hạn và lỗi

Bạn bị giới hạn ở 300 yêu cầu mỗi phút mỗi khóa và 8 yêu cầu đồng bộ. Nếu vượt quá các giới hạn này, bạn sẽ nhận được lỗi 429 Too Many Requests. Thân phản hồi sẽ bao gồm chi tiết retry-after. Hãy điều chỉnh việc hạn chế tốc độ phía máy khách để tránh các lần thử lại không cần thiết.

Nếu tín dụng trả trước của bạn đã hết, API sẽ trả về lỗi 402 Payment Required (Yêu cầu thanh toán). Bạn có thể nạp tiền bằng tiền mã hóa bất cứ lúc nào. Các lỗi và từ chối đều miễn phí, vì vậy bạn chỉ phải trả tiền cho việc tạo token thành công. Cửa sổ ngữ cảnh là 100,000 tokens cho cả prompt và kết hợp hoàn thành.

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.howmuchisanapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.howmuchisanapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)