Providers
NVIDIA
NVIDIA ให้บริการ API ที่เข้ากันได้กับ OpenAI ที่ https://integrate.api.nvidia.com/v1 สำหรับ
โมเดลเปิดให้ใช้ฟรี ตรวจสอบสิทธิ์ด้วยคีย์ API จาก
build.nvidia.com.
เริ่มต้นใช้งาน
รับคีย์ API ของคุณ
สร้างคีย์ API ที่ build.nvidia.com.
ส่งออกคีย์และรันการเริ่มต้นใช้งาน
export NVIDIA_API_KEY="nvapi-..."openclaw onboard --auth-choice nvidia-api-keyตั้งค่าโมเดล NVIDIA
openclaw models set nvidia/nvidia/nemotron-3-super-120b-a12bสำหรับการตั้งค่าแบบไม่โต้ตอบ คุณยังสามารถส่งคีย์โดยตรงได้:
openclaw onboard --auth-choice nvidia-api-key --nvidia-api-key "nvapi-..."ตัวอย่างการกำหนดค่า
{ env: { NVIDIA_API_KEY: "nvapi-..." }, models: { providers: { nvidia: { baseUrl: "https://integrate.api.nvidia.com/v1", api: "openai-completions", }, }, }, agents: { defaults: { model: { primary: "nvidia/nvidia/nemotron-3-super-120b-a12b" }, }, },}แค็ตตาล็อกในตัว
| ข้อมูลอ้างอิงโมเดล | ชื่อ | บริบท | เอาต์พุตสูงสุด |
|---|---|---|---|
nvidia/nvidia/nemotron-3-super-120b-a12b |
NVIDIA Nemotron 3 Super 120B | 262,144 | 8,192 |
nvidia/moonshotai/kimi-k2.5 |
Kimi K2.5 | 262,144 | 8,192 |
nvidia/minimaxai/minimax-m2.5 |
Minimax M2.5 | 196,608 | 8,192 |
nvidia/z-ai/glm5 |
GLM 5 | 202,752 | 8,192 |
การกำหนดค่าขั้นสูง
พฤติกรรมการเปิดใช้งานอัตโนมัติ
ผู้ให้บริการจะเปิดใช้งานโดยอัตโนมัติเมื่อตั้งค่าตัวแปรสภาพแวดล้อม NVIDIA_API_KEY
ไม่จำเป็นต้องมีการกำหนดค่าผู้ให้บริการอย่างชัดเจนนอกเหนือจากคีย์
แค็ตตาล็อกและราคา
แค็ตตาล็อกที่มาพร้อมกันเป็นแบบคงที่ ต้นทุนมีค่าเริ่มต้นเป็น 0 ในซอร์ส เนื่องจาก NVIDIA
ขณะนี้ให้การเข้าถึง API ฟรีสำหรับโมเดลที่ระบุไว้
เอนด์พอยต์ที่เข้ากันได้กับ OpenAI
NVIDIA ใช้เอนด์พอยต์ completions มาตรฐาน /v1 เครื่องมือใดๆ ที่เข้ากันได้กับ OpenAI
ควรใช้งานได้ทันทีด้วย URL ฐานของ NVIDIA
การตอบกลับของผู้ให้บริการแบบกำหนดเองที่ช้า
โมเดลแบบกำหนดเองบางรายการที่โฮสต์บน NVIDIA อาจใช้เวลานานกว่า model idle watchdog เริ่มต้นก่อนที่จะปล่อยชิ้นส่วนการตอบกลับแรก สำหรับรายการผู้ให้บริการ NVIDIA แบบกำหนดเอง ให้เพิ่ม timeout ของผู้ให้บริการแทนการเพิ่ม timeout ของ runtime ของเอเจนต์ทั้งหมด:
{ models: { providers: { "custom-integrate-api-nvidia-com": { baseUrl: "https://integrate.api.nvidia.com/v1", api: "openai-completions", apiKey: "NVIDIA_API_KEY", timeoutSeconds: 300, }, }, }, agents: { defaults: { models: { "custom-integrate-api-nvidia-com/meta/llama-3.1-70b-instruct": { params: { thinking: "off" }, }, }, }, },}