Providers

SGLang

SGLang menyajikan model open-weight melalui API HTTP yang kompatibel dengan OpenAI. OpenClaw terhubung ke SGLang menggunakan keluarga penyedia openai-completions dengan penemuan otomatis model yang tersedia.

Properti	Nilai
id penyedia	`sglang`
Plugin	dibundel, `enabledByDefault: true`
Variabel env autentikasi	`SGLANG_API_KEY` (nilai tidak kosong apa pun jika server tidak memiliki auth)
Flag onboarding	`--auth-choice sglang`
API	kompatibel dengan OpenAI (`openai-completions`)
URL dasar default	`http://127.0.0.1:30000/v1`
Placeholder model default	`sglang/Qwen/Qwen3-8B`
Penggunaan streaming	Ya (`supportsStreamingUsage: true`)
Penetapan harga	Ditandai external-free (`modelPricing.external: false`)

OpenClaw juga menemukan otomatis model yang tersedia dari SGLang saat Anda ikut serta dengan SGLANG_API_KEY. Gunakan sglang/* di agents.defaults.models agar penemuan tetap dinamis saat Anda juga mengonfigurasi URL dasar SGLang kustom. Lihat Penemuan model (penyedia implisit) di bawah.

Memulai

Mulai SGLang

Jalankan SGLang dengan server yang kompatibel dengan OpenAI. URL dasar Anda harus mengekspos endpoint /v1 (misalnya /v1/models, /v1/chat/completions). SGLang umumnya berjalan pada:

http://127.0.0.1:30000/v1

Tetapkan kunci API

Nilai apa pun berfungsi jika tidak ada auth yang dikonfigurasi pada server Anda:

bash

export SGLANG_API_KEY="sglang-local"

Jalankan onboarding atau tetapkan model secara langsung

bash

openclaw onboard

Atau konfigurasikan model secara manual:

json5

{  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}

Penemuan model (penyedia implisit)

Saat SGLANG_API_KEY ditetapkan (atau profil auth ada) dan Anda tidak mendefinisikan models.providers.sglang, OpenClaw akan membuat kueri ke:

GET http://127.0.0.1:30000/v1/models

dan mengonversi ID yang dikembalikan menjadi entri model.

Konfigurasi eksplisit (model manual)

Gunakan konfigurasi eksplisit saat:

SGLang berjalan pada host/port yang berbeda.
Anda ingin menyematkan nilai contextWindow/maxTokens.
Server Anda memerlukan kunci API nyata (atau Anda ingin mengontrol header).

json5

{  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Local SGLang Model",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

Konfigurasi lanjutan

Perilaku bergaya proxy

SGLang diperlakukan sebagai backend /v1 yang kompatibel dengan OpenAI bergaya proxy, bukan endpoint OpenAI native.

Perilaku	SGLang
Pembentukan permintaan khusus OpenAI	Tidak diterapkan
`service_tier`, Responses `store`, petunjuk prompt-cache	Tidak dikirim
Pembentukan payload reasoning-compat	Tidak diterapkan
Header atribusi tersembunyi (`originator`, `version`, `User-Agent`)	Tidak disuntikkan pada URL dasar SGLang kustom

Pemecahan masalah

Server tidak dapat dijangkau

Verifikasi server sedang berjalan dan merespons:

bash

curl http://127.0.0.1:30000/v1/models

Kesalahan auth

Jika permintaan gagal dengan kesalahan auth, tetapkan SGLANG_API_KEY nyata yang cocok dengan konfigurasi server Anda, atau konfigurasikan penyedia secara eksplisit di bawah models.providers.sglang.

Terkait

Pemilihan model

Memilih penyedia, referensi model, dan perilaku failover.

Referensi konfigurasi

Skema konfigurasi lengkap termasuk entri penyedia.

Was this useful?