Kecerdasan buatan (AI) terus berkembang pesat dan mulai diterapkan dalam berbagai sektor, mulai dari kesehatan, transportasi, pendidikan, hingga pemerintahan. Namun di balik potensinya yang luar biasa, muncul pertanyaan penting: seberapa aman dan adilkah teknologi ini?
Pertanyaan itu kini mulai terjawab lewat laporan terbaru dari MIT AI Risk Repository, sebuah basis data yang menghimpun ratusan insiden risiko AI dari berbagai sumber global. Salah satu kekuatan laporan MIT adalah metodologinya yang sistematis. Data yang digunakan bukan sekadar kompilasi anekdot, melainkan hasil kurasi dari berbagai sumber terbuka, termasuk liputan media, laporan akademik, audit teknis, hingga dokumentasi publik dari lembaga pemerintah dan perusahaan teknologi. Insiden dihimpun dari ratusan basis data, jurnal penelitian, hingga laporan media internasional untuk memastikan keragaman konteks dan validitas kasus.
Dalam laporan tersebut, terungkap fakta mencengangkan, lebih dari 50% insiden AI berasal dari dua kategori utama, yaitu kegagalan sistem AI dan diskriminasi. Risiko AI diklasifikasikan ke dalam tujuh domain utama. Berikut daftarnya berdasarkan jumlah insiden.
Dua kategori teratas mencakup total 470 dari 869 insiden yang dianalisis pada 2025, atau 54% dari keseluruhan kasus. Ini menunjukkan bahwa AI bukan hanya berisiko secara teknis, tetapi juga secara sosial, khususnya saat algoritma tanpa sadar memperkuat bias dan diskriminasi yang ada di data pelatihan.
Dari Error hingga Diskriminasi: Bahaya Nyata AI
Kegagalan sistem AI mencakup insiden-insiden seperti mobil otonom yang salah membaca rambu lalu lintas, chatbot yang memberi informasi keliru, hingga sistem deteksi yang tidak bekerja sebagaimana mestinya. Di sisi lain, diskriminasi AI merujuk pada bias algoritmik yang menghasilkan keputusan tidak adil, misalnya, sistem rekrutmen yang lebih sering menolak pelamar perempuan, atau pengenalan wajah yang lebih sering gagal pada wajah orang kulit berwarna.
Hal ini bukan sekadar kesalahan teknis. Ini adalah masalah sistemik yang membutuhkan respons kebijakan dan etika yang serius.
Saatnya Regulasi dan Etika AI Diperkuat
Laporan MIT ini bukan hanya katalog insiden, melainkan seruan global. Bahwa di tengah euforia adopsi AI, dunia membutuhkan kerangka regulasi yang kuat, pengawasan etis yang aktif, dan komitmen dari pengembang serta pembuat kebijakan untuk memastikan teknologi ini tidak menjadi senjata yang memperdalam ketidakadilan.
Beberapa negara dan lembaga internasional telah merintis langkah ke arah tersebut. Uni Eropa, misalnya, dengan AI Act yang tengah disusun, mencoba mengkategorikan risiko AI berdasarkan tingkat bahayanya dan memberikan regulasi ketat pada aplikasi yang berisiko tinggi. Indonesia pun telah mulai merancang peta jalan etika dan regulasi AI melalui berbagai kementerian dan lembaga.
Satu hal yang menjadi titik terang dari data MIT adalah pentingnya transparansi dalam pengembangan AI. Tanpa pengawasan yang terbuka dan kolaboratif antara pengembang, akademisi, regulator, dan masyarakat sipil, potensi AI bisa berubah menjadi ancaman yang tidak terkendali.
Namun, kabar baiknya adalah: kesadaran mulai tumbuh. Laporan-laporan seperti ini membantu mempercepat dialog, memperkuat kepercayaan publik, dan mendorong inovasi yang lebih bertanggung jawab.
Baca Juga: Mayoritas Orang Indonesia Antusias Terhadap AI, Separuh Masih Cemas
Sumber:
https://arxiv.org/pdf/2408.12622
https://airisk.mit.edu/
https://incidentdatabase.ai/taxonomies/mit/
Penulis: Dadang Irsyam
Editor: Editor
