Install dan jalankan model AI GPT-OSS secara offline dengan Ollama | Alpha | PandaiTech

Install dan jalankan model AI GPT-OSS secara offline dengan Ollama

Panduan langkah demi langkah untuk muat turun Ollama, install aplikasi, dan jalankan model 'reasoning' AI secara local pada komputer anda tanpa memerlukan sambungan internet.

Learning Timeline
Key Insights

Keperluan Storan & Internet

Model GPT-OSS-20B mempunyai saiz fail yang besar (sekitar 13GB). Pastikan anda mempunyai ruang storan yang mencukupi dan sambungan internet yang stabil untuk proses muat turun kali pertama.

Prestasi Real-Time

Oleh kerana model ini dijalankan secara lokal, kelajuan 'prompt completion' bergantung sepenuhnya pada kuasa hardware komputer anda. Model jenis 'reasoning' biasanya lebih perlahan berbanding model chat biasa kerana ia melakukan proses pemikiran yang mendalam.

Privasi & Penggunaan Offline

Kelebihan utama menggunakan Ollama adalah privasi data. Sebaik sahaja model selesai dimuat turun, anda boleh menutup sambungan internet dan AI tersebut masih boleh berfungsi sepenuhnya secara offline.
Prompts

Marketing Plan Generation

Target: Ollama (GPT-OSS-20B)
Create an in-depth marketing plan for my business.
Step by Step

Cara Install dan Menjalankan Model AI GPT-OSS Secara Lokal

  1. Layari laman web rasmi di ollama.com.
  2. Klik butang 'Download' yang dipaparkan pada halaman utama.
  3. Pilih sistem operasi (Operating System) yang anda gunakan (contoh: macOS, Windows, atau Linux).
  4. Setelah fail selesai dimuat turun, buka installer tersebut dan ikuti arahan pemasangan sehingga selesai.
  5. Lancarkan aplikasi Ollama yang telah di-install.
  6. Pada antaramuka aplikasi, klik pada menu pilihan model dan pastikan anda memilih model 'GPT-OSS-20B' (atau versi 9X seperti yang dinyatakan).
  7. Taipkan prompt atau soalan anda pada ruangan input chat di bahagian bawah.
  8. Tekan 'Enter' atau klik butang hantar; aplikasi akan mula memuat turun fail model AI tersebut secara automatik.
  9. Tunggu sehingga proses muat turun selesai (saiz fail adalah sekitar 13GB).
  10. Setelah selesai, perhatikan status 'Thinking' di mana AI sedang memproses logik (reasoning) sebelum jawapan penuh dipaparkan.

More from AI Lokal & Deployment Open Source

View All