Cara Menggunakan GLM-5 Gratis dengan Ollama

GLM-5 dari Z.ai menghadirkan model sumber terbuka tingkat terdepan yang kini dapat diakses melalui Ollama. Anda mendapatkan kemampuan luar biasa dalam penalaran kompleks, rekayasa perangkat lunak, dan alur kerja agen jangka panjang sambil menjaga semuanya tetap di perangkat keras Anda sendiri.

💡

Unduh Apidog secara gratis hari ini untuk melengkapi pengaturan Anda. Klien API yang tangguh ini memungkinkan Anda merancang, menguji, dan men-debug permintaan secara visual terhadap titik akhir Ollama yang kompatibel dengan OpenAI lokal, menyederhanakan eksperimen dengan GLM-5 dan mempercepat alur kerja pengembangan Anda sejak interaksi pertama.

tombol

Apa yang Membuat GLM-5 Menonjol

Z.ai merilis GLM-5 di bawah Lisensi MIT, membuat bobotnya tersedia secara gratis di Hugging Face dan ModelScope. Model ini berskala hingga total 744 miliar parameter dalam arsitektur Mixture-of-Experts (MoE), hanya mengaktifkan 40 miliar parameter per token. Desain ini mempertahankan kecerdasan tinggi sambil mengontrol biaya inferensi.

Pelatihan awal pada 28,5 triliun token membekali GLM-5 dengan dukungan multibahasa yang kuat, terutama unggul dalam bahasa Inggris dan Mandarin. Ini menangani konteks hingga sekitar 198K token dalam implementasi Ollama melalui DeepSeek Sparse Attention (DSA), yang mengurangi overhead komputasi tanpa mengorbankan kinerja urutan panjang.

Tolok ukur menyoroti kekuatannya. GLM-5 mencapai 92,7% pada AIME 2026 I, 86,0% pada GPQA-Diamond, dan 77,8% pada SWE-bench Verified. Hasil ini menempatkannya secara kompetitif terhadap model-model terkemuka dalam pengkodean, penalaran matematis, dan tugas-tugas agen seperti perencanaan multi-langkah dan penggunaan alat.

Pengguna secara khusus menghargai kemampuannya untuk menghasilkan dokumen terstruktur seperti PRD, spreadsheet, dan laporan, serta kompatibilitasnya dengan kerangka kerja agen. Model ini beralih dengan mulus dari obrolan sederhana ke alur kerja rekayasa yang canggih.

Mengapa Memasangkan GLM-5 dengan Ollama

Ollama menyederhanakan penyebaran LLM lokal di macOS, Linux, dan Windows. Ini mengelola unduhan model, kuantisasi, dan penyajian sambil mengekspos API REST yang kompatibel dengan OpenAI di http://localhost:11434/v1. Akibatnya, setiap alat yang dibuat untuk titik akhir OpenAI berfungsi dengan GLM-5 secara langsung.

Anda menghindari biaya cloud, batas laju, dan transmisi data ke pihak ketiga. Selain itu, Ollama mendukung peralihan mudah antar model dan terintegrasi langsung dengan alat pengembang. Tag glm-5:cloud menyediakan varian yang dioptimalkan yang disesuaikan untuk eksekusi lokal, menyeimbangkan kemampuan dan permintaan sumber daya.

Persyaratan untuk Menjalankan GLM-5 Secara Lokal

Siapkan sistem Anda sebelum instalasi. Ollama berjalan pada perangkat keras modern, tetapi GLM-5 mendapat manfaat dari sumber daya yang substansial karena skalanya.

Sistem Operasi: macOS (Apple Silicon lebih disukai), Linux, atau Windows dengan WSL2.
Rekomendasi GPU: Kartu NVIDIA dengan VRAM 24 GB+ memberikan kinerja yang nyaman pada panjang konteks yang lebih tinggi. Mac Apple Silicon dengan memori terpadu 32 GB+ juga berkinerja baik. Pengaturan hanya CPU berfungsi tetapi menghasilkan generasi token yang lebih lambat.
RAM: Minimal 32 GB memori sistem; 64 GB+ meningkatkan stabilitas selama konteks panjang.
Penyimpanan: Alokasikan ruang SSD kosong 50 GB+ untuk file model dan runtime Ollama.
Internet: Diperlukan untuk perintah ollama pull awal.

Periksa perangkat keras Anda terhadap pedoman ini. Pengguna dengan GPU kelas menengah seringkali mencapai kecepatan yang dapat digunakan dengan membatasi konteks atau menggunakan kuantisasi yang lebih rendah jika tersedia. Uji secara bertahap setelah pengaturan.

Langkah 1: Instal Ollama

Kunjungi situs web resmi Ollama dan unduh penginstal untuk platform Anda. Proses ini memakan waktu beberapa detik di sebagian besar sistem.

Di macOS atau Linux, buka terminal dan jalankan perintah instalasi yang disediakan di situs. Pengguna Windows mengeksekusi file .exe yang diunduh.

Setelah instalasi, verifikasi keberhasilan dengan membuka terminal dan mengetik:

ollama --version

Perintah ini mengonfirmasi bahwa runtime aktif. Mulai server Ollama di latar belakang dengan ollama serve jika tidak diluncurkan secara otomatis.

Langkah 2: Ambil dan Jalankan GLM-5

Unduh model dengan satu perintah:

ollama pull glm-5:cloud

Proses ini mengunduh file yang diperlukan dan mungkin memakan waktu tergantung pada koneksi Anda. Pantau kemajuan di terminal.

Luncurkan sesi interaktif segera setelahnya:

ollama run glm-5:cloud

Anda sekarang berinteraksi langsung dengan GLM-5 di baris perintah. Ketik prompt dan amati respons. Keluar dari sesi dengan /bye setelah selesai.

Langkah 3: Berinteraksi melalui Baris Perintah dan Panggilan API Dasar

CLI cocok untuk pengujian cepat. Untuk akses terprogram, gunakan API REST.

Uji penyelesaian obrolan sederhana dengan curl:

curl http://localhost:11434/api/chat -d '{
  "model": "glm-5:cloud",
  "messages": [
    { "role": "user", "content": "Explain the advantages of Mixture-of-Experts architectures in large language models." }
  ],
  "stream": false
}'

Ollama mengembalikan respons JSON yang berisi pesan asisten. Titik akhir ini mendukung streaming ketika Anda mengatur "stream": true, memungkinkan keluaran token real-time dalam aplikasi.

Pengembang Python memanfaatkan pustaka ollama resmi atau OpenAI SDK untuk kompatibilitas:

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1",
    api_key="ollama"  # Placeholder; no real key required
)

response = client.chat.completions.create(
    model="glm-5:cloud",
    messages=[
        {"role": "system", "content": "You are an expert software architect."},
        {"role": "user", "content": "Design a scalable microservices system for an e-commerce platform handling 1M daily users."}
    ],
    temperature=0.7,
    max_tokens=2048
)

print(response.choices[0].message.content)

Kode ini menunjukkan bagaimana basis kode yang ada yang kompatibel dengan OpenAI beradaptasi dengan mudah ke model lokal.

Langkah 4: Tingkatkan Alur Kerja Anda dengan Apidog

Pengujian API visual mempercepat pengembangan dan debugging. Apidog unggul di sini dengan menyediakan antarmuka intuitif untuk membuat permintaan, mengelola lingkungan, dan menghasilkan kode klien.

Unduh Apidog secara gratis dari situs resmi dan instal. Buat proyek baru dan konfigurasikan hal berikut:

URL Dasar: http://localhost:11434/v1
Titik Akhir: Tambahkan /chat/completions sebagai permintaan POST.
Header: Atur Content-Type: application/json (tidak ada header Otorisasi yang diperlukan untuk Ollama lokal).

Bangun badan permintaan Anda secara visual. Tentukan array pesan, sesuaikan parameter seperti temperature, top_p, atau max_tokens, dan sertakan nama model "glm-5:cloud". Kirim permintaan dan periksa respons JSON lengkap, termasuk penggunaan token dan waktu.

Apidog selanjutnya memungkinkan Anda untuk:

Menyimpan lingkungan yang dapat digunakan kembali untuk model atau konteks yang berbeda.
Menghasilkan kode SDK dalam Python, JavaScript, atau bahasa lain.
Membuat rangkaian pengujian otomatis untuk memvalidasi keluaran GLM-5 terhadap skema yang diharapkan.
Membuat respons tiruan untuk pengembangan frontend ketika backend berjalan secara lokal.

Integrasi ini mengubah eksperimen API mentah menjadi proses yang terstruktur dan kolaboratif. Pengembang yang menguji percakapan multi-giliran yang kompleks atau skenario pemanggilan alat sangat diuntungkan dari alat debugging visual Apidog.

Konfigurasi dan Optimisasi Lanjutan

Sesuaikan perilaku dengan membuat Modelfile. Contohnya:

FROM glm-5:cloud
SYSTEM You are a precise engineering assistant focused on long-term planning and code quality.
PARAMETER temperature 0.6
PARAMETER num_ctx 131072

Bangun model kustom dengan ollama create my-glm5 -f Modelfile dan jalankan sebagai ollama run my-glm5.

Sesuaikan panjang konteks dengan hati-hati. Jendela yang lebih besar mengonsumsi lebih banyak memori tetapi memungkinkan analisis basis kode atau dokumen yang ekstensif. Pantau penggunaan VRAM dengan alat seperti nvidia-smi.

Untuk alur kerja agen, luncurkan alat yang kompatibel secara langsung:

ollama launch openclaw --model glm-5:cloud

Perintah serupa mendukung Claude Code, Codex, dan kerangka kerja lainnya, memungkinkan GLM-5 untuk menggerakkan agen desktop atau asisten pengkodean secara lokal.

Bereksperimenlah dengan prompt sistem untuk mengarahkan model ke domain tertentu, seperti arsitektur frontend atau analisis keamanan siber. Lacak metrik kinerja—token per detik biasanya meningkat dengan akselerasi GPU dan manajemen konteks yang dioptimalkan.

Pemecahan Masalah Umum

Pengguna terkadang menghadapi tantangan selama penyiapan awal. Jika perintah pull gagal, verifikasi koneksi internet dan ruang disk Anda. Mulai ulang layanan Ollama dan coba lagi.

Kesalahan memori selama inferensi menandakan VRAM yang tidak mencukupi atau ukuran konteks yang terlalu ambisius. Kurangi num_ctx atau tutup aplikasi yang intensif GPU lainnya. Pada Apple Silicon, pastikan alokasi memori terpadu yang cukup.

Waktu respons yang lambat seringkali membaik dengan mengonfirmasi offloading GPU. Periksa log Ollama untuk konfirmasi bahwa lapisan dimuat ke akselerator.

Ketika panggilan API mengembalikan format yang tidak terduga, konfirmasikan bahwa tag model cocok persis dan bahwa badan permintaan mengikuti skema yang diharapkan. Apidog membantu mengisolasi masalah ini dengan cepat dengan menampilkan permintaan dan respons mentah secara berdampingan.

Forum komunitas dan dokumentasi resmi menyediakan solusi tambahan seiring berkembangnya ekosistem.

Kesimpulan: Kendalikan AI Canggih Hari Ini

Menjalankan GLM-5 secara lokal melalui Ollama menghilangkan hambatan untuk bantuan AI berkualitas tinggi. Anda mengakses penalaran canggih dan kinerja pengkodean sambil mempertahankan kedaulatan data penuh dan menghilangkan biaya penggunaan.

Mulailah dengan langkah-langkah instalasi yang diuraikan di atas, integrasikan Apidog untuk menyempurnakan interaksi API Anda, dan jelajahi konfigurasi kustom yang sesuai dengan alur kerja spesifik Anda. Penyesuaian kecil—seperti prompt yang dioptimalkan, manajemen konteks, atau integrasi alat—seringkali menghasilkan peningkatan substansial dalam kualitas keluaran dan efisiensi.

Kombinasi kemampuan GLM-5 dan kesederhanaan Ollama memberdayakan pengembang untuk bereksperimen secara bebas dan membangun solusi tingkat produksi sepenuhnya pada infrastruktur mereka sendiri. Mulai penyebaran lokal Anda sekarang dan buka potensi penuh model sumber terbuka yang kuat ini.

tombol