Belajar AI #32: Fine-tuning Praktis — LoRA & QLoRA di GPU Consumer

Di episode #31 kita sudah memutuskan kapan fine-tuning itu worth it. Episode ini saya lanjutkan ke praktiknya: bagaimana cara fine-tuning LLM di GPU consumer dengan biaya yang masuk akal. Jawabannya ada di dua kata: LoRA dan QLoRA. Saya baru benar-benar paham konsepnya setelah mencoba sendiri, dan ternyata lebih sederhana dari yang saya bayangkan.

Belajar AI #32: Fine-tuning Praktis — LoRA & QLoRA di GPU Consumer Lanjutkan membaca

Belajar AI #31: Prompting vs RAG vs Fine-tuning — Kapan Pakai Mana

Hari ini saya dapat belajar satu hal yang selama ini membingungkan saya sebagai programmer: kalau LLM kurang “bisa” untuk kasus kita, sebenarnya ada tiga jalan keluar — prompting, RAG, atau fine-tuning — dan ketiganya punya biaya, waktu, dan kasus pakai yang sangat berbeda. Saya sempat salah pilih beberapa kali (misalnya mau fine-tuning padahal cuma butuh prompt yang lebih terstruktur), jadi saya catat di sini decision matrix yang akhirnya saya pakai.

Belajar AI #31: Prompting vs RAG vs Fine-tuning — Kapan Pakai Mana Lanjutkan membaca

Belajar AI #30: Evals untuk LLM & Agent — Unit Test untuk Model AI

Di episode #29 kita sudah peta ekosistem framework agent. Tapi ada satu hal yang sering saya lewatkan selama ini: kalau saya ubah prompt sedikit, bagaimana cara tahu hasilnya memang LEBIH BAIK, bukan cuma “kelihatannya oke di satu contoh”? Jawabannya adalah evals — unit test untuk LLM. Hari ini saya catat dasar-dasarnya.

Belajar AI #30: Evals untuk LLM & Agent — Unit Test untuk Model AI Lanjutkan membaca