Jalankan model GPT-OSS secara local dengan Ollama | Alpha | PandaiTech

Jalankan model GPT-OSS secara local dengan Ollama

Panduan mudah untuk download dan guna model open-source OpenAI (GPT-OSS) terus di laptop anda menggunakan aplikasi Ollama, termasuk fungsi web search.

Learning Timeline
Key Insights

Kemudahan Tanpa Terminal

Berbeza dengan versi lama, Ollama versi terbaharu mempunyai interface grafik (GUI). Anda tidak perlu lagi menaip kod di Terminal untuk menjalankan model AI.

Trigger Muat Turun Automatik

Model AI sebenarnya belum ada dalam komputer anda walaupun ia tersenarai dalam dropdown. Ia hanya akan mula dimuat turun secara automatik sebaik sahaja anda menghantar mesej pertama.

Kelebihan Web Search

Fungsi web search merupakan ciri unik yang tersedia dalam Ollama untuk model GPT-OSS, membolehkan AI mengakses maklumat terkini yang mungkin tidak tersedia dalam model GPT standard yang dijalankan secara local.

Had Fungsi Local

Buat masa ini, penggunaan secara local melalui Ollama mempunyai had berbanding ChatGPT rasmi, seperti ketiadaan fungsi 'file upload' dan beberapa ciri canggih yang lain.
Step by Step

Cara Memasang dan Menjalankan GPT-OSS Secara Local Menggunakan Ollama

  1. Muat turun dan pasang aplikasi Ollama melalui laman web rasmi untuk sistem operasi anda (Mac atau PC).
  2. Buka aplikasi Ollama setelah selesai pemasangan.
  3. Klik pada menu dropdown yang terletak di bahagian atas interface aplikasi untuk melihat senarai model.
  4. Pilih model open-weight GPT yang terpapar di bahagian atas senarai (anda juga boleh memilih model lain seperti DeepSeek atau Llama).
  5. Taipkan sebarang mesej atau soalan dalam kotak chat untuk memulakan sesi.
  6. Tunggu aplikasi melakukan proses muat turun model secara automatik (ini hanya berlaku pada kali pertama anda memilih model tersebut).
  7. Gunakan fungsi 'web search' yang terletak di bahagian menu model jika anda memerlukan AI mencari maklumat secara online.
  8. Mula berinteraksi dengan AI secara local sepenuhnya di laptop anda tanpa memerlukan sambungan internet selepas model selesai dimuat turun.

More from AI Lokal & Deployment Open Source

View All