Kecerdasan buatan (AI) telah secara radikal mengubah cara kerja beberapa industri, termasuk manufaktur, e-commerce, layanan kesehatan, dan keuangan. Meski kuat dan efektif, model AI terkadang dipandang sebagai “kotak hitam” yang membuat penilaian tanpa memberikan penjelasan jelas mengenai prosesnya. AI yang Dapat Dijelaskan (XAI) bertujuan untuk memecahkan masalah ini dengan menawarkan keandalan, akuntabilitas, dan transparansi. Kami akan membahas semakin pentingnya XAI di blog ini, serta metode dan masalah yang ingin diselesaikan.

Apa itu AI yang Dapat Dijelaskan?

AI yang Dapat Dijelaskan mengacu pada metode dan teknik yang memungkinkan pengguna manusia memahami dan memercayai keputusan yang dibuat oleh model AI. Meskipun model AI tradisional, seperti jaringan saraf dalam, sering kali membuat keputusan yang sulit diinterpretasikan, XAI berupaya menjelaskan proses yang tidak jelas ini. Dengan memberikan penjelasan yang jelas, XAI membantu pengguna memahami “mengapa” dan “bagaimana” di balik keputusan yang didorong oleh AI.

Pentingnya XAI melampaui rasa ingin tahu. Di sektor-sektor penting seperti layanan kesehatan, keuangan, dan kendaraan otonom, memahami bagaimana AI mencapai kesimpulannya sangat penting untuk pertimbangan keselamatan, kepatuhan, dan etika. Kurangnya transparansi dapat menyebabkan permasalahan seperti bias, hasil yang buruk, dan terkikisnya kepercayaan. Dengan XAI, organisasi dapat menerapkan sistem AI yang tidak hanya efisien tetapi juga adil, etis, dan selaras dengan nilai-nilai masyarakat.

Perlunya Transparansi dalam AI

Ketika AI terintegrasi ke dalam proses pengambilan keputusan penting, kebutuhan akan transparansi telah menjadi prioritas. Bayangkan sebuah sistem bertenaga AI yang menyetujui pinjaman bagi pemohon. Jika model tersebut menolak pinjaman berdasarkan serangkaian variabel tetapi tidak memberikan penjelasan, maka menjadi mustahil untuk memahami apakah keputusan tersebut adil atau diskriminatif.

Sebaliknya, model yang dapat dijelaskan akan menyoroti faktor-faktor utama yang mendorong pengambilan keputusan, seperti nilai kredit, pendapatan, atau status pekerjaan. Transparansi ini memungkinkan pemohon dan lembaga keuangan untuk meneliti proses tersebut dan memastikan bahwa proses tersebut mematuhi standar peraturan.

Demikian pula dalam perawatan kesehatan, model AI membantu mendiagnosis penyakit dan merekomendasikan pengobatan. Namun, jika dokter dan pasien tidak dapat mempercayai rekomendasi AI karena tidak jelas, penerapan alat ini akan menemui hambatan. XAI menjembatani kesenjangan tersebut dengan menawarkan pembenaran untuk diagnosis berbasis AI, memungkinkan dokter mengambil keputusan yang tepat dan pasien merasa yakin dengan rencana perawatan mereka.

Baca juga: Bagaimana AutoML Mendemokratisasikan AI

Pendekatan AI yang Dapat Dijelaskan

Ada beberapa teknik yang membuat model AI lebih mudah dijelaskan. Pilihan teknik bergantung pada jenis model AI dan tingkat interpretabilitas yang diperlukan.

1. Pentingnya Fitur

Kepentingan fitur memberi peringkat pada faktor atau masukan yang memengaruhi keputusan AI. Misalnya, dalam model yang memprediksi risiko penyakit jantung, fitur seperti kadar kolesterol, usia, dan tekanan darah dapat diberi peringkat untuk menunjukkan signifikansinya dalam prediksi tersebut. Pentingnya fitur sangat berguna dalam pohon keputusan, hutan acak, dan model linier, di mana setiap variabel memiliki pengaruh yang dapat diukur pada keluarannya.

2. LIME (Penjelasan Model-Agnostik Lokal yang Dapat Ditafsir)

LIME adalah teknik XAI populer yang menjelaskan prediksi model dengan memperkirakan model kompleks asli dengan model yang lebih sederhana dan dapat diinterpretasikan, dengan fokus pada contoh spesifik yang sedang dijelaskan. Jika AI klasifikasi gambar salah mengklasifikasikan anjing sebagai kucing, LIME dapat menunjukkan bagian gambar yang menyebabkan kesalahan ini.

3. SHAP (Penjelasan Aditif SHapley)

SHAP memberikan nilai pada setiap fitur berdasarkan kontribusinya terhadap keluaran model, menggunakan prinsip teori permainan. Teknik ini dapat menjelaskan prediksi individu sambil mempertimbangkan kontribusi kombinasi fitur yang berbeda terhadap keputusan. Nilai SHAP memberikan cara yang konsisten dan masuk akal secara matematis untuk menafsirkan keluaran model.

4. Penjelasan Kontrafaktual

Penjelasan kontrafaktual menjawab pertanyaan: “Apa yang perlu diubah agar keputusan berbeda dapat diambil?” Jika suatu model menolak pinjaman, penjelasan kontrafaktual akan memberikan wawasan tentang faktor-faktor apa yang dapat disesuaikan (misalnya peningkatan pendapatan) untuk membalikkan keputusan tersebut. Pendekatan ini membantu pengguna memahami tidak hanya tentang keputusan tersebut tetapi juga bagaimana keputusan tersebut dapat berubah.

5. Penjelasan Berbasis Aturan

Penjelasan berbasis aturan, yang sering digunakan dalam sistem pakar, dirancang untuk memecah logika model AI menjadi aturan yang dapat dibaca manusia. Misalnya, jika AI merekomendasikan perawatan medis, penjelasan berbasis aturan akan menguraikan pedoman klinis atau literatur medis yang diikuti AI untuk mencapai kesimpulannya.

Mengapa AI yang Dapat Dijelaskan Itu Penting

Manfaat utama XAI adalah membangun kepercayaan antara sistem AI dan penggunanya. Ketika keputusan dijelaskan, pengguna akan lebih percaya dan mengadopsi teknologi AI. Berikut beberapa manfaat utama XAI:

• Peningkatan Akuntabilitas : Dengan XAI, organisasi dapat meminta pertanggungjawaban model AI atas keputusan mereka. Hal ini sangat penting terutama di sektor-sektor yang pengawasan peraturannya sangat penting, seperti keuangan dan layanan kesehatan.
• Mengurangi Bias : XAI dapat membantu mendeteksi dan memperbaiki bias dalam model AI dengan menampilkan fitur-fitur yang memengaruhi prediksi. Jika gender atau ras berdampak tidak adil pada suatu keputusan, langkah-langkah dapat diambil untuk menghilangkan bias ini.
• Peningkatan Debugging : Saat model AI membuat kesalahan, XAI dapat membantu teknisi memahami penyebab kesalahan tersebut, sehingga memudahkan peningkatan akurasi dan performa model.
• AI Etis : Dengan menawarkan transparansi, XAI memastikan bahwa model AI selaras dengan standar etika. Hal ini sangat penting dalam sistem otonom di mana keputusan harus selaras dengan nilai-nilai dan hukum masyarakat.

Tantangan AI yang Dapat Dijelaskan

Meskipun manfaat XAI jelas, penerapannya bukannya tanpa tantangan. Salah satu kendala terbesarnya adalah kompleksitas model pembelajaran mendalam, khususnya jaringan saraf. Model ini seringkali terdiri dari jutaan parameter, sehingga sulit untuk memberikan penjelasan sederhana atas keluarannya.

Tantangan lainnya adalah trade-off antara akurasi dan kemampuan menjelaskan. Seringkali, model yang lebih sederhana lebih mudah dijelaskan, tetapi model tersebut mungkin mengorbankan akurasi dibandingkan dengan model yang kompleks seperti jaringan neural dalam. Menemukan keseimbangan antara kedua faktor ini merupakan bidang penelitian utama.

Yang terakhir, menciptakan penjelasan yang akurat dan dapat dimengerti oleh orang yang bukan ahli bisa jadi sulit. Meskipun penjelasan teknis mungkin memuaskan para ilmuwan data, penjelasan tersebut mungkin terlalu rumit bagi pengguna akhir seperti dokter atau penasihat keuangan. XAI harus melayani berbagai tingkat keahlian, menawarkan penjelasan yang informatif dan mudah diakses.

Masa Depan

Seiring dengan terus berkembangnya AI, permintaan akan XAI akan meningkat. Pemerintah dan badan pengatur sudah menyadari pentingnya transparansi dalam AI, sehingga mendorong adanya penjelasan di sektor-sektor penting. Misalnya, Peraturan Perlindungan Data Umum (GDPR) Uni Eropa menekankan “hak atas penjelasan”, yang mengamanatkan bahwa individu dapat meminta penjelasan untuk pengambilan keputusan otomatis.

Di masa depan, kita mungkin melihat metode baru untuk membuat model AI yang paling rumit sekalipun dapat dijelaskan. Para peneliti sedang mengeksplorasi pendekatan inovatif seperti pemrosesan bahasa alami untuk menghasilkan penjelasan yang dapat dibaca manusia mengenai keputusan AI. Sementara itu, perpaduan antara AI dan etika kemungkinan akan mendorong kemajuan lebih lanjut dalam XAI, memastikan bahwa sistem AI tidak hanya kuat tetapi juga adil dan dapat dipercaya.

Menyelesaikan

AI yang dapat dijelaskan sangat penting untuk menjembatani kesenjangan kepercayaan, akuntabilitas, dan transparansi yang ada antara kapasitas AI dan persyaratan ini. XAI akan menjadi komponen kunci dalam pengembangan AI yang etis karena semakin banyak sektor yang beralih ke AI untuk membuat penilaian penting. XAI menjamin bahwa sistem ini tidak hanya efisien tetapi juga mematuhi norma etika dan harapan pengguna dengan memberikan wawasan tentang cara kerja model AI.

Untuk bacaan lebih lanjut: 6 Solusi TI Inovatif Teratas yang Mendorong Kesuksesan Bisnis