Install dan configure LiteLLM Proxy dengan Docker

Tekan play pada video. Ia akan terus lompat ke bahagian yang menjawab tajuk di atas — tak perlu tonton video penuh.

LiteLLM Docker

Claude

Grok Anthropic OpenWebUI Coding Automation AI Tools

Panduan teknikal install LiteLLM container, edit environment variables, dan setup 'Virtual Keys' untuk guna Claude, Grok dan GPT serentak dengan kawalan bajet.

Keselamatan API Key

LITELLM_SALT_KEY sangat penting kerana ia digunakan untuk encrypt API key provider (seperti Claude/GPT) yang anda simpan dalam database LiteLLM. Jangan tukar key ini selepas server mula digunakan.

Kelebihan Virtual Keys

Gunakan Virtual Keys untuk membahagikan akses kepada pengguna yang berbeza. Anda boleh menyekat pengguna tertentu daripada menggunakan model yang mahal dan menetapkan 'Monthly Budget' untuk mengelakkan bil melambung.

Networking Localhost

Jika Open WebUI dan LiteLLM berada dalam Docker network yang sama, anda boleh menggunakan 'http://localhost:4000' atau nama container sebagai Base URL untuk komunikasi yang lebih pantas.

More from AI Lokal & Deployment Open Source

Install dan jalankan AI model Smollm2 secara offline dengan Docker

Automasikan task web browser guna Local LLM (Ollama) & DeepSeek

Browser Use Ollama

Pasang dan konfigurasi Robin AI Dark Web Scraper menggunakan Docker dan Tor

Jalankan Local LLM dan Grok dengan OpenCode CLI

Bina AI Tutor Socratic Sendiri dengan Open WebUI dan Prompt Khas

Open WebUI Claude

Setup akaun Admin dan sambung OpenAI API

OpenWebUI OpenAI API