OpenClawDocs
इस पेज पर

इस पेज पर

View as MarkdownView this page as plain textOpen in ChatGPTAsk questions about this pageOpen in ClaudeAsk questions about this page

Providers

SGLang

SGLang, OpenAI-संगत HTTP API के माध्यम से ओपन-वेट मॉडल उपलब्ध कराता है। OpenClaw, उपलब्ध मॉडलों की स्वतः खोज के साथ openai-completions प्रोवाइडर फ़ैमिली का उपयोग करके SGLang से जुड़ता है।

प्रॉपर्टी मान
प्रोवाइडर आईडी sglang
Plugin बंडल किया हुआ, enabledByDefault: true
प्रमाणीकरण एनवायरनमेंट वेरिएबल SGLANG_API_KEY (यदि सर्वर पर प्रमाणीकरण नहीं है, तो कोई भी गैर-रिक्त मान)
ऑनबोर्डिंग फ़्लैग --auth-choice sglang
API OpenAI-संगत (openai-completions)
डिफ़ॉल्ट बेस URL http://127.0.0.1:30000/v1
डिफ़ॉल्ट मॉडल प्लेसहोल्डर sglang/Qwen/Qwen3-8B
स्ट्रीमिंग उपयोग हाँ (supportsStreamingUsage: true)
मूल्य निर्धारण बाहरी-निःशुल्क के रूप में चिह्नित (modelPricing.external: false)

जब आप SGLANG_API_KEY के साथ ऑप्ट इन करते हैं, तो OpenClaw SGLang से उपलब्ध मॉडलों की स्वतः खोज भी करता है। कस्टम SGLang बेस URL कॉन्फ़िगर करते समय खोज को डायनेमिक बनाए रखने के लिए agents.defaults.models में sglang/* का उपयोग करें। नीचे मॉडल खोज (अंतर्निहित प्रोवाइडर) देखें।

शुरू करना

  • SGLang शुरू करें

    OpenAI-संगत सर्वर के साथ SGLang लॉन्च करें। आपके बेस URL को /v1 एंडपॉइंट उपलब्ध कराने चाहिए (उदाहरण के लिए /v1/models, /v1/chat/completions)। SGLang आम तौर पर यहाँ चलता है:

    • http://127.0.0.1:30000/v1

  • API कुंजी सेट करें

    यदि आपके सर्वर पर प्रमाणीकरण कॉन्फ़िगर नहीं है, तो कोई भी मान काम करेगा:

    bash
    export SGLANG_API_KEY="sglang-local"

  • ऑनबोर्डिंग चलाएँ या सीधे मॉडल सेट करें

    bash
    openclaw onboard

    या मॉडल को मैन्युअल रूप से कॉन्फ़िगर करें:

    json5
    {  agents: {    defaults: {      model: { primary: "sglang/your-model-id" },    },  },}

    • मॉडल खोज (अंतर्निहित प्रोवाइडर)

    जब SGLANG_API_KEY सेट हो (या कोई प्रमाणीकरण प्रोफ़ाइल मौजूद हो) और आप models.providers.sglang को परिभाषित नहीं करते हैं, तो OpenClaw यह क्वेरी करता है:

    • GET http://127.0.0.1:30000/v1/models

    और लौटाई गई आईडी को मॉडल प्रविष्टियों में बदल देता है।

    स्पष्ट कॉन्फ़िगरेशन (मैन्युअल मॉडल)

    स्पष्ट कॉन्फ़िगरेशन का उपयोग तब करें, जब:

    • SGLang किसी अलग होस्ट/पोर्ट पर चलता हो।
    • आप contextWindow/maxTokens मान नियत करना चाहते हों।
    • आपके सर्वर को वास्तविक API कुंजी की आवश्यकता हो (या आप हेडर नियंत्रित करना चाहते हों)।
    json5
    {  models: {    providers: {      sglang: {        baseUrl: "http://127.0.0.1:30000/v1",        apiKey: "${SGLANG_API_KEY}",        api: "openai-completions",        models: [          {            id: "your-model-id",            name: "Local SGLang Model",            reasoning: false,            input: ["text"],            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },}

    उन्नत कॉन्फ़िगरेशन

    प्रॉक्सी-जैसा व्यवहार

    SGLang को मूल OpenAI एंडपॉइंट के बजाय प्रॉक्सी-जैसे OpenAI-संगत /v1 बैकएंड के रूप में माना जाता है।

    व्यवहार SGLang
    केवल OpenAI के लिए अनुरोध संरचना लागू नहीं
    service_tier, Responses store, प्रॉम्प्ट-कैश संकेत नहीं भेजे जाते
    रीजनिंग-संगत पेलोड संरचना लागू नहीं
    छिपे हुए एट्रिब्यूशन हेडर (originator, version, User-Agent) कस्टम SGLang बेस URL पर इंजेक्ट नहीं किए जाते
    समस्या निवारण

    सर्वर तक नहीं पहुँचा जा सकता

    सत्यापित करें कि सर्वर चल रहा है और प्रतिक्रिया दे रहा है:

    bash
    curl http://127.0.0.1:30000/v1/models

    प्रमाणीकरण त्रुटियाँ

    यदि प्रमाणीकरण त्रुटियों के कारण अनुरोध विफल होते हैं, तो अपने सर्वर कॉन्फ़िगरेशन से मेल खाने वाला वास्तविक SGLANG_API_KEY सेट करें या models.providers.sglang के अंतर्गत प्रोवाइडर को स्पष्ट रूप से कॉन्फ़िगर करें।

    संबंधित

    मॉडल चयन

    प्रोवाइडर, मॉडल रेफ़रेंस और फ़ेलओवर व्यवहार चुनना।
    कॉन्फ़िगरेशन संदर्भ

    प्रोवाइडर प्रविष्टियों सहित पूर्ण कॉन्फ़िगरेशन स्कीमा।
    Was this useful?