Learning Timeline
Key Insights
Saiz Model vs Kelajuan (Hardware)
Model yang lebih besar (seperti Llama 3.3 43GB atau DeepSeek 32B) memerlukan kuasa pemprosesan yang tinggi. Jika dijalankan di laptop biasa, ia mungkin menjana jawapan dengan sangat perlahan (perkataan demi perkataan) berbanding model 7B yang hampir instan.
Ciri Khas DeepSeek R1
DeepSeek R1 mempunyai fasa 'Thinking' yang diletakkan di dalam bracket. Jangan keliru; itu adalah proses logik model tersebut dan bukannya sebahagian daripada jawapan akhir yang anda minta.
Localhost vs Cloud
Walaupun anda menggunakan Chrome atau browser lain, Open WebUI biasanya berjalan pada 'Localhost:3000'. Ini bermakna data dan model diproses sepenuhnya di dalam komputer anda, bukan di server luar.
Prompts
Ujian Kemampuan Reasoning AI
Target:
DeepSeek R1
Give me 10 challenges only a reasoning AI model can solve
Step by Step
Cara Memilih dan Menjalankan DeepSeek R1 (7B)
- Log masuk ke akaun Open WebUI anda.
- Klik pada menu dropdown model yang terletak di bahagian atas tengah skrin.
- Cari dan pilih model 'deepseek-r1:latest' (atau versi 7B) daripada senarai model yang tersedia.
- Jika anda ingin menggunakan model ini secara tetap, klik pada pilihan 'Set as default'.
- Taipkan prompt anda di dalam kotak chat dan tekan 'Send'.
- Perhatikan bahagian 'Thinking' di dalam kurungan; ini adalah proses penaakulan model sebelum ia memberikan jawapan akhir.
Membandingkan Dua Model AI Side-by-Side
- Pastikan anda telah memberikan prompt kepada model pertama (contoh: DeepSeek R1).
- Klik pada ikon '+' atau butang perbandingan model yang terletak di bahagian atas chat.
- Pilih model kedua daripada senarai dropdown (contoh: Llama 3.3) untuk dimasukkan ke dalam sesi chat yang sama.
- Tekan butang 'Send' atau 'Prompt Again'.
- Lihat skrin yang kini terbahagi kepada dua (Side-by-Side) untuk melihat perbezaan kelajuan penjanaan teks dan kualiti jawapan antara kedua-dua model secara serentak.
Cara Install Model DeepSeek 32B Menerusi Terminal
- Buka aplikasi Terminal (Mac/Linux) atau Command Prompt/PowerShell (Windows) di komputer anda.
- Salin dan tampal (paste) arahan pemasangan model DeepSeek 32B (contoh: `ollama run deepseek-r1:32b`).
- Tekan 'Enter' untuk memulakan proses muat turun fail sebesar kira-kira 19GB.
- Tunggu sehingga proses muat turun dan 'checksum' selesai sepenuhnya di dalam Terminal.
- Setelah selesai, tutup Terminal dan kembali ke pelayar web anda.
- Akses 'Localhost:3000' untuk membuka Open WebUI.
- Klik pada dropdown model dan pilih model '32B' yang baru dipasang untuk memulakan chat baru.
