Episode #62 kemarin saya habiskan untuk menghitung biaya — provider mana yang murah, kapan self-host masuk akal, dan bagaimana caching memotong tagihan. Tapi ada satu hal yang tidak muncul di spreadsheet biaya: pengalaman orang memakai fitur AI kita. Di catatan penutup Season 3 ini (sebelum #64 bahas regulasi dan #65 rangkuman), saya mau duduk di sisi yang paling sering dilupakan engineer — sisi pengguna.
Kenapa UX produk AI beda dari UX biasa
Di aplikasi biasa, kalau user klik tombol maka hasilnya deterministik: form kosong → validasi error, query → baris yang sama. Output-nya bisa saya jadikan unit test. Di produk AI, output-nya probabilitas. Tombol yang sama bisa menghasilkan jawaban benar, jawaban plausibel tapi salah, atau error timeout. Ini berarti desain UX-nya harus mengasumsikan kegagalan sebagai keadaan normal, bukan pengecualian.
Ini yang saya catat sebagai tiga perbedaan paling kerasa:
- Latensi tidak bisa dihilangkan, hanya disembunyikan. Respons LLM biasanya 1–30 detik tergantung panjang output dan mode reasoning (kita bahas test-time compute di episode #50). UX yang menampilkan layar kosong selama 10 detik membuat orang menutup tab.
- Salah bukan exception, tapi kebiasaan. Model bisa mengarang dengan percaya diri. UI harus memudahkan orang memverifikasi, bukan menyembunyikan sumber.
- Konteks berubah tiap sesi. Hasil yang sama untuk query yang sama tidak bisa dijanjikan, jadi pola “cache hasil akhir” yang umum di web perlu dipikirkan ulang.
Streaming: bukan sekadar animasi ketik
Hal paling murah dan paling berdampak yang bisa dilakukan produk AI adalah streaming token per token. Dari sisi teknis ini gampang — hampir semua API (OpenAI, Anthropic, model lokal via llama.cpp/vLLM) mengembalikan response berupa stream SSE. Dari sisi psikologi dampaknya besar: time to first token 500 ms terasa jauh lebih cepat daripada menunggu 5 detik untuk response utuh, meskipun total waktunya sama saja.
Yang sering keliru: streaming setelah seluruh response selesai di-generate (buffer lalu dump sekaligus) — animasinya jadi bohong. Dan streaming yang tidak di-cancel ketika user menekan “stop” membuang token = membuang uang, persis yang kita hindari di episode #62.
Affordance: kasih tahu user apa yang AI ini bisa dan tidak bisa
Dalam desain antarmuka, affordance adalah petunjuk visual tentang cara memakai sebuah objek. Tombol yang menonjol terlihat “ditekan”. Produk AI punya masalah khas: kemampuannya kabur. Orang mengetik “bandingkan laporan kuartal ini” ke chatbot yang sebenarnya tidak punya akses file, lalu kecewa.
Praktik yang saya rasa paling menyelesaikan masalah ini:
- Contoh prompt yang jadi klik. Chip saran di bawah input kasih tahu batas kemampuan tanpa perlu halaman dokumentasi.
- Tampilkan ground-nya. Kalau jawaban bersumber dari dokumen (RAG, bahas episode #54), tampilkan link sumbernya. Orang bisa memverifikasi = kepercayaan naik. Kalau tidak ada sumber, jangan beri tombol “salin sebagai jawaban final”.
- Status > spinner. “Membaca 3 dokumen…” lebih jujur daripada ikon berputar yang tidak menjelaskan apakah model lagi berpikir atau lagi macet.
Pola fitur AI yang sering gagal
Ini daftar hitam yang saya susun dari pengalaman sendiri memakai berbagai produk AI dan dari membaca catatan tim lain:
| Pola | Kenapa gagal | Perbaikan umum |
|---|---|---|
| Chatbot tanpa konteks produk | Jawaban generik, user langsung beralih ke pencarian biasa | Berikan data akun/konteks sebagai tool, bukan cuma system prompt |
| Auto-apply perubahan berbahaya | Satu halusinasi = data ikut hilang | Draft dulu → persetujuan manusia → undo yang jelas |
| Sembunyikan keterbatasan | Kepercayaan hancur setelah kegagalan pertama | Katakan batasnya di awal, sediakan fallback ke mode non-AI |
| Kotak input besar tanpa arah | Blank-page problem, user tidak tahu mulai dari mana | Task terstruktur, template, contoh nyata |
Benang merahnya satu: produk AI yang gagal hampir selalu gagal karena ekspektasi tidak dielola, bukan karena modelnya jelek. Model bisa diganti (episode #52 bahas cara memilihnya dengan tenang), tapi UX yang menjanjikan kepastian pada sistem yang probabilitas tidak bisa diselamatkan oleh model sebagus apa pun.
Checklist singkat sebelum rilis fitur AI
- Apakah time-to-first-token di bawah ±1 detik (streaming aktif, dan bisa di-cancel)?
- Apakah ada jalur verifikasi sumber untuk jawaban faktual?
- Apakah kegagalan (timeout, refusal, halusinasi terdeteksi) punya pesan + aksi lanjutan, bukan layar kosong?
- Apakah user tahu kapan mereka sedang bicara dengan AI vs melihat data mentah?
- Apakah ada mode non-AI sebagai fallback? Orang butuh jalan pulang.
Bagi saya, pelajaran besar dari menulis checklist ini: membangun produk AI itu 30% urusan model dan 70% urusan kepercayaan. Modelnya sudah cukup bagus untuk hampir semua tugas sejak lama — yang belum selesai adalah membuat orang betah dan yakin memakainya.
Komentar Terbaru