Lewati ke konten

Chat Completions

LootVM menerima permintaan chat completion yang kompatibel OpenAI di:

POST https://api.lootvm.com/v1/chat/completions

Autentikasi dengan API key yang diterbitkan LootVM (Authorization: Bearer).

Untuk klien Claude yang mengharapkan Messages API Anthropic, gunakan Messages (Claude) (POST /v1/messages) alih-alih menerjemahkan prompt ke Chat Completions secara manual.

Terminal window
curl --fail-with-body https://api.lootvm.com/v1/chat/completions \
-H "Authorization: Bearer ${LOOTVM_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "your-enabled-model",
"messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Say hello in one sentence."}
]
}'

Pilih model dari id yang dikembalikan GET /v1/models untuk key Anda. Model yang tidak diaktifkan untuk workspace mengembalikan error.

Kirim setidaknya satu giliran user. system opsional (atau pesan ber-role system) mengatur instruksi. Biarkan content sebagai string pada contoh ini kecuali klien Anda membutuhkan bagian multimodal yang didukung model.

Respons sukses non-stream berbentuk objek chat completion OpenAI (id dan usage bergantung model):

{
"id": "chatcmpl-…",
"object": "chat.completion",
"model": "your-enabled-model",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "Hello! How can I help you today?"
},
"finish_reason": "stop"
}
]
}
Field Catatan
model Wajib. Harus diaktifkan untuk key Anda.
messages Wajib. Giliran role / content gaya OpenAI (system, user, assistant, dan role tool jika model mendukung).
stream Opsional. Jika true, respons dikirim sebagai server-sent events bila model dan path mendukung streaming.
temperature, max_tokens / max_completion_tokens, dan field sampling terkait Opsional. Diteruskan sesuai dukungan gateway dan upstream untuk model itu. Jangan kirim field yang ditolak model Anda.

Field yang diterima tepat bergantung pada model dan channel di belakang gateway. Mulai dengan model dan messages, lalu tambahkan parameter opsional yang dibutuhkan klien Anda.

Setel "stream": true dan biarkan koneksi HTTP tetap terbuka (misalnya curl -N). Body berupa rangkaian event data: server-sent dalam bentuk chunk chat OpenAI bila streaming didukung untuk model itu.

Terminal window
curl --fail-with-body -N https://api.lootvm.com/v1/chat/completions \
-H "Authorization: Bearer ${LOOTVM_KEY}" \
-H "Content-Type: application/json" \
-d '{
"model": "your-enabled-model",
"stream": true,
"messages": [
{"role": "user", "content": "Stream a short greeting."}
]
}'

Jika streaming gagal atau mengembalikan body JSON error non-stream, pastikan model mendukung streaming di Console atau Model Square, dan klien Anda tidak men-buffer seluruh respons sebelum membaca event.

Pakai Kapan
Chat Completions SDK OpenAI, plugin IDE/CLI kompatibel OpenAI, atau klien yang mengirim ke /v1/chat/completions.
Messages (Claude) SDK Anthropic, Claude CLI, atau klien yang mengirim ke /v1/messages dengan header Anthropic.

Kedua path memakai key LootVM dan host dasar yang sama. Pilih protokol yang sudah dipakai klien Anda.

LootVM juga mengekspos permukaan kompatibel OpenAI lainnya (misalnya Responses). Mulai dengan chat completions jika SDK Anda mengharapkan /v1/chat/completions, lalu konfirmasi dukungan model di Console atau Model Square.