Awalnya saya pikir etika AI itu urusan manajemen atau pengacara. Salah besar. Semakin jauh saya belajar, semakin jelas bias dan risiko keamanan lahir dari keputusan teknis sehari-hari: dataset apa yang dipakai, fitur mana yang dibuang, bagaimana model diuji. Episode ini catatan saya tentang tiga hal: bias data, keamanan AI, dan regulasi — khususnya EU AI Act yang mulai mengubah cara kita membangun produk AI.
Bias Data: Sampah Masuk, Bias Keluar
Model belajar pola dari data latih. Kalau datanya timpang, modelnya timpang. Contoh klasik yang sering dikutip: sistem rekrutmen yang dilatih dari data perekrutan historis cenderung mereplikasi ketimpangan historis itu. Analogi programmer sederhana: garbage in, garbage out — tapi versi berbahaya karena output-nya keputusan tentang manusia. Jenis bias yang perlu diwaspadai:
- Sampling bias: data latih tidak mewakili populasi pemakai.
- Label bias: label historis sudah memuat prasangka (keputusan manusia masa lalu).
- Measurement bias: cara mengukur fitur berbeda antar kelompok.
- Feedback loop: output model memengaruhi data baru yang melatih model berikutnya.
Cara mengecek secara teknis: pecah evaluasi per subkelompok. Akurasi rata-rata 95% bisa menyembunyikan 99% untuk kelompok mayoritas dan jauh lebih rendah untuk minoritas. Metrik seperti accuracy per group, equalized odds, atau demographic parity ratio membantu memunculkan ketimpangan yang tersembunyi di balik angka agregat:
import pandas as pd
from sklearn.metrics import accuracy_score
df = pd.DataFrame({
"y_true": y_test,
"y_pred": y_pred,
"group": df_test["gender"], # kolom atribut sensitif
})
for g, sub in df.groupby("group"):
print(g, accuracy_score(sub["y_true"], sub["y_pred"]))Keamanan AI: Permukaan Serangan Baru
LLM membuka kelas serangan yang tidak ada di aplikasi web tradisional. Yang wajib saya catat:
- Prompt injection: instruksi tersembunyi di konteks eksternal (email, halaman web, dokumen RAG) yang membajak perilaku model.
- Data leakage: model bocor data latih sensitif saat diminta dengan cara tertentu.
- Jailbreak: rekayasa prompt untuk melewati guardrail.
- Insecure tool use: agen AI yang boleh eksekusi perintah tanpa sandbox adalah resep bencana.
Prinsip mitigasinya familiar: treat all external content as untrusted input. Konteks RAG, hasil pencarian web, isi email — semuanya setara user input berbahaya. Validasi, sanitasi, batasi hak akses tool, log semua aksi.
EU AI Act: Regulasi Berbasis Risiko
EU AI Act adalah hukum AI pertama yang komprehensif di dunia. Pendekatannya berbasis tingkat risiko: praktik AI tertentu dilarang (misalnya social scoring), sistem high-risk (misalnya AI di rekrutmen, kredit, pendidikan) menanggung kewajiban ketat — dokumentasi, pengujian, pengawasan manusia — sedangkan risiko terbatas hanya menuntut transparansi, misalnya memberi tahu user bahwa mereka berinteraksi dengan AI. Bagi developer Indonesia dampaknya tetap terasa kalau produk menyentuh pasar Eropa; pola dokumentasi dan risk assessment-nya layak diadopsi sebagai engineering practice baik.
| Tingkat risiko | Contoh | Konsekuensi |
|---|---|---|
| Dilarang | Social scoring oleh pemerintah | Praktik dilarang |
| High-risk | Screening CV, skoring kredit | Kewajiban dokumentasi & pengawasan |
| Terbatas | Chatbot | Transparansi ke user |
| Minimal | Filter spam, game | Bebas |
Penutup episode ini kesannya klise tapi nyata: model yang bias bukan cuma masalah moral, ia bug fungsional yang membuat produk gagal untuk segmen user tertentu. Mengukur fairness per kelompok harus jadi rutinitas seperti menulis unit test.
Komentar Terbaru