Di episode #24 kita sudah membahas GGUF dan quantization — cara menjalankan model besar di komputer sendiri dengan memampatkan bobotnya. Tapi pertanyaan yang sering muncul setelah itu: model mana yang sebenarnya layak di-download di tahun 2026? Peta model open source hari ini sudah jauh berbeda dari dua tahun lalu, dan kali ini saya coba memetakannya.
Apa yang dimaksud “open source” di sini
Istilah yang lebih tepat sebenarnya open weights — bobot model dirilis publik, tapi lisensinya bervariasi. Ada yang benar-benar bebas (Apache 2.0, MIT), ada yang punya syarat komersial. Ini penting untuk programmer yang mau pakai model di produk: lisensi sekarang jadi salah satu kriteria pemilihan, bukan cuma benchmark.
Empat keluarga besar
Seperti biasa, ini catatan versi saya per Oktober 2026 — landscape bergerak cepat, jadi anggap ini snapshot, bukan kebenaran abadi.
DeepSeek
DeepSeek-V4 Preview rilis 24 April 2026 dengan bobot terbuka di bawah lisensi MIT. Ada dua varian MoE: V4-Pro (1,6 triliun total parameter, 49B aktif) dan V4-Flash (284B total, 13B aktif). Keduanya mendukung konteks 1 juta token. Yang menarik menurut saya: V4-Flash diposisikan sebagai model untuk volume tinggi dengan biaya serving rendah, sementara V4-Pro untuk tuntutan reasoning dan coding berat.
Qwen
Alibaba merilis Qwen3.5 pada 16 Februari 2026 (Apache 2.0), diawali Qwen3.5-397B-A17B (MoE), lalu disusul varian 122B-A10B, 35B-A3B, 27B, dan ukuran kecil 9B/4B/2B/0.8B. Generasi Qwen3.6 menyusul April 2026. Bagi saya Qwen menarik karena Apache 2.0 di hampir semua varian terbuka — paling ramah untuk penggunaan komersial tanpa syarat, plus ukuran kecilnya banyak, cocok untuk eksperimen lokal.
Mistral
Mistral 3 family rilis 2 Desember 2025: Mistral Large 3 (MoE 675B total / 41B aktif, konteks 256K) dan seri dense Ministral 3 (3B, 8B, 14B), semua Apache 2.0. Lalu Mistral Small 4 (Maret 2026, MoE, 256K) dan Mistral Medium 3.5 (Mei 2026, dense 128B, open weights dengan lisensi MIT termodifikasi). Mistral konsisten merilis model kecil-menengah yang efisien — kelas yang paling sering saya temukan bisa jalan nyaman di hardware biasa.
Llama
Meta tetap opsi Barat paling umum, dan framework/toolchain hampir selalu mendukung Llama lebih dulu. Tapi catat lisensinya: Llama Community License — bukan lisensi open source standar, dengan larangan penggunaan di UE dan batas pengguna aktif bulanan. Kalau produk saya mau go global, ini hal yang perlu dicek dulu, bukan dibaca belakangan.
Pemain tambahan yang perlu dipantau
- GLM (Zhipu AI) — GLM-5.1 berlisensi MIT, MoE 744B total / 40B aktif, konteks 200K.
- Gemma (Google) — varian kecil sampai 27B, Apache 2.0, populer untuk local/edge.
- Kimi (Moonshot AI) — Kimi K3 disebut-sebut salah satu open-weight terkuat untuk reasoning agentic di kelasnya.
Kriteria memilih model untuk kasus lokal
Ini bagian yang paling saya butuhkan sebagai programmer dengan hardware terbatas. Urutan keputusan yang saya pakai:
1. VRAM adalah batas keras
Sebelum membandingkan kualitas, cek dulu muat atau tidak. Rumus kasar untuk model dense: parameter × byte per parameter (Q4_K_M ≈ 4,5 bit ≈ ~0,6 byte). Laptop 4GB seperti punya saya hanya memuat model 0.8B–3B dengan nyaman; 8–14B butuh quantization agresif atau RAM besar. MoE membantu di sini — yang aktif cuma 3–50B dari total ratusan miliar, tapi KV cache dan router tetap harus muat di memori.
2. Tugas menentukan keluarga
Coding & agent: Qwen atau DeepSeek kelas menengah unggul di benchmark coding. Multilingual/enterprise: Mistral Small 4 solid. Konteks panjang: DeepSeek V4 dan GLM menawarkan 1 juta token. Reasoning berat dengan hardware terbatas: varian “Flash” atau dense kecil lebih realistis daripada flagship 400B+.
3. Lisensi sebelum deploy
Apache 2.0 / MIT = aman untuk komersial tanpa syarat. Llama Community License = ada batas. Untuk riset dan eksperimen sih bebas mana saja, tapi saya sudah terbiasa cek lisensi sejak awal supaya tidak mengulang kerja saat proyek jadi serius.
4. Infra inferensi harus siap
Model besar butuh engine yang benar. Di episode #38 kita sudah bahas continuous batching, PagedAttention, dan vLLM — semua teknik itu yang bikin model MoE ratusan miliar parameter bisa dilayani dengan biaya wajar. Tanpa optimasi inferensi, memilih model besar justru membuat latensi tidak tertahankan.
Yang saya pelajari dari peta ini
Dua tahun lalu pilihannya terasa “GPT atau tidak ada”. Sekarang ada spektrum penuh: dari model 0,8B yang jalan di laptop sampai MoE 1,6 triliun parameter yang dilayani lewat API dengan harga murah. Bagi saya sebagai programmer, implikasinya jelas — kita tidak lagi memilih “model terbaik”, tapi model yang paling sesuai dengan kombinasi hardware, anggaran, lisensi, dan tugas. Itu keputusan teknik, bukan keputusan tren.
Untuk langkah praktis: kalau mau coba lokal, mulai dari varian kecil Qwen atau Gemma (lihat workflow GGUF di episode #24). Kalau butuh kekuatan penuh tanpa GPU sendiri, API V4-Flash atau seri Qwen harganya masuk akal untuk eksperimen. Kalau mau fine-tune model sendiri, jalur LoRA/QLoRA di episode #32 tetap berlaku untuk hampir semua keluarga di atas.
Sumber
- DeepSeek-V4 Preview Release — api-docs.deepseek.com (April 2026)
- Koleksi Qwen3.5 di Hugging Face — huggingface.co
- Qwen3.6 news log — github.com/QwenLM
- Mistral 3 family announcement — mistral.ai (Desember 2025)
- Mistral Small 4 dan Mistral Medium 3.5 — mistral.ai
- Best Open Source LLMs in 2026 — fireworks.ai
- Llama 4 model card — llama.com
Komentar Terbaru