Jalankan Local LLM dan Grok dengan OpenCode CLI | Alpha | PandaiTech

Jalankan Local LLM dan Grok dengan OpenCode CLI

Cara guna tool open-source 'OpenCode' untuk akses model percuma macam Grok atau local LLM (Llama) dan Claude API terus dari terminal.

Learning Timeline
Key Insights

Kelebihan Local Context

OpenCode automatik membaca file dalam direktori semasa anda. Ini bermakna anda boleh tukar model AI (contoh: dari Grok ke Claude) di tengah-tengah perbualan tanpa hilang konteks projek kerana semua data perbualan disimpan secara lokal.

Grok Percuma

OpenCode buat masa ini mempunyai akses khas dengan Grok AI yang membolehkan pengguna menggunakan model Grok secara percuma terus dari CLI tanpa perlu API key sendiri.
Step by Step

Cara Install dan Setup OpenCode

  1. Buka Terminal atau Command Prompt anda.
  2. Taip command installation (rujuk snippet) untuk muat turun dan install OpenCode secara global.
  3. Lancarkan tool dengan menaip `opencode` di terminal.
  4. Tunggu sehingga interface TUI (Terminal User Interface) muncul.
  5. Secara default, anda akan terus masuk ke mode 'Grok Code' yang disediakan secara percuma melalui kerjasama Grok AI.

Cara Integrasi Local LLM (Llama 3.2)

  1. Keluar dari interface OpenCode dengan menaip `exit` atau tekan Ctrl+C.
  2. Buka file konfigurasi menggunakan text editor (contoh: Nano) melalui command: `nano ~/.config/opencode/opencode.jsonc`.
  3. Masukkan settings JSON untuk provider local (Ollama) ke dalam file tersebut.
  4. Simpan file (Ctrl+O, Enter) dan keluar (Ctrl+X).
  5. Lancarkan semula OpenCode dengan menaip `opencode`.
  6. Di dalam interface OpenCode, taip command `/model` dan pilih `llama3.2` (atau model local yang anda install) untuk mula bersembang secara offline.

Cara Sambung Claude Pro Subscription

  1. Di terminal, taip command `opencode auth login`.
  2. Pilih 'Anthropic' atau 'Claude' daripada senarai provider.
  3. Terminal akan menjana satu kod unik dan membuka browser secara automatik.
  4. Log masuk ke akaun Claude Pro anda di browser dan paste kod yang diberikan.
  5. Kembali ke terminal, lancarkan `opencode`.
  6. Gunakan command `/model` dan pilih `claude-3-5-sonnet` untuk menggunakan model premium dalam terminal.

Ciri Eksperimental: Share & Timeline

  1. Semasa dalam sembang (session), taip command `/share` untuk berkongsi perbualan AI tersebut.
  2. Satu URL unik akan disalin automatik ke clipboard; paste URL tersebut ke browser untuk melihat log perbualan secara live.
  3. Gunakan command `/timeline` untuk melihat sejarah perubahan atau 'checkpoint' dalam perbualan.
  4. Pilih mana-mana point dalam timeline untuk 'restore' atau kembali ke fasa perbualan tersebut jika anda mahu menukar arah output AI.

More from AI Lokal & Deployment Open Source

View All