Pintar Tidak Selalu Benar, AI Butuh Etika

Perkembangan AI dan Kosongnya Etika

Di era yang serba digital ini, kecerdasan buatan (Artificial Intelligence/AI) telah menjadi kata kunci dalam hampir semua sektor dari industri, pemerintahan, pendidikan, hingga keamanan. AI dianggap sebagai simbol kemajuan dan efisiensi. Ia mampu mengolah data dalam skala besar, mendeteksi pola perilaku, hingga memprediksi keputusan. Negara-negara seperti China dan Indonesia pun berlomba mengembangkan AI demi pertumbuhan ekonomi dan efektivitas layanan publik.

Namun di tengah pujian terhadap kecanggihan teknologi, ada satu pertanyaan yang belum banyak dijawab, apakah AI yang semakin pintar ini juga semakin bijaksana? Ataukah sebaliknya, teknologi ini malah melahirkan bentuk-bentuk kekuasaan baru yang tersembunyi di balik layar? Pertanyaan ini bukan sekadar spekulatif. Kita menyaksikan bagaimana AI digunakan sebagai alat negara di China, dan di sisi lain, diadopsi secara pragmatis di Indonesia tanpa kerangka etik yang matang. Situasi ini menunjukkan satu hal, AI mungkin canggih, tetapi tanpa arah etis yang kuat, ia bisa salah arah dan bahkan berbahaya.

Teknologi Salip Etika

China adalah contoh ekstrem dari bagaimana AI bisa berkembang pesat dalam waktu singkat. Melalui Artificial Intelligence Development Plan (AIDP) yang dicanangkan pada tahun 2017, China menjadikan AI sebagai pilar utama dalam strategi nasionalnya. Dalam waktu kurang dari satu dekade, berbagai aplikasi AI telah diterapkan diantaranya kamera pengenal wajah di ruang publik, sistem sosial, analitik perilaku warga, integrasi AI dalam pengadilan serta sistem kepolisian.

Tujuan utamanya jelas untuk efisiensi, ketertiban sosial, dan dominasi global dalam teknologi. Namun, pendekatan ini membawa konsekuensi besar. Ruang privasi warga hampir tidak ada, kontrol negara semakin luas, dan transparansi sangat terbatas. Dalam konteks ini, AI bukan lagi sekadar teknologi netral, tetapi telah menjadi bagian dari arsitektur kekuasaan yang terprogram.

Indonesia Meniru Teknologi, tapi Minim Etika

Berbeda dari China, Indonesia tidak memiliki pendekatan seagresif itu. Namun, kita mulai mengikuti arah yang sama dalam aspek teknis terhadap penggunaan kamera pengenal wajah di perkantoran dan sekolah, sistem absensi otomatis, penyaringan bansos atau beasiswa melalui algoritma, dan platform digital pemerintah yang makin banyak mengumpulkan data warga.

Meski Indonesia sudah memiliki UU Perlindungan Data Pribadi (UU PDP) yang disahkan pada 2022, serta beberapa panduan awal etika AI oleh Kementerian Kominfo, implementasi di lapangan masih lemah. Belum ada lembaga independen yang mengawasi penggunaan AI secara sistematis, tidak ada prosedur audit algoritma, dan partisipasi publik sangat minim. Intinya, kita mengadopsi teknologi tanpa membangun nilai-nilai penopangnya.

Teknologi yang Tampak Netral, Tapi Tak Pernah Benar-Benar Netral

Salah satu mitor terbesar dalam pembangunan AI adalah anggapan bahea teknologi bersifat netral. Karana “hanya membaca data,”, AI dianggap objektif. Namun, seperti yang dijelaskan oleh Roberts (2020, algoritma tidak bebas menilai. Ia merefleksikan cara berpikir penciptanya, data latih yang digunakan, serta logika sistem yang berlaku dalam masyarakat.

Di China, misalnya, sistem social credit dirancang untuk mengukur perilaku warga berdasarkan data keuangan, lalu lintas, sosial media, bahkan interaksi sehari-hari. Tujuannya adalah “membangun masyarakat yang dapat dipercaya.” Namun dalam praktiknya, orang bisa masuk daftar hitam hanya karena berbicara kritis di media sosial atau telat membayar tagihan. AI menjadi sistem pemeringkat moral yang tidak mengenal konteks manusia.

Kecerdasan Buatan Menyalahkan yang Tidak Bersalah

Di Indonesia, sistem serupa mungkin belum muncul dalam bentuk “social credit”, tetapi praktik-praktik diskriminatif berbasis algoritma sudah mulai terlihat. Contoh yang paling nyata adalah dalam sistem diantaranya penyaluran bantuan sosial (bansos) yang memanfaatkan big data untuk memetakan “kelayakan”, dan seleksi beasiswa otomatis yang menggunakan parameter nilai dan domisili tanpa mempertimbangkan konteks sosial.

Beberapa kasus menunjukkan bahwa keluarga miskin tidak mendapatkan bansos karena NIK mereka tidak terdaftar dalam sistem tertentu. Beberapa pelajar cerdas dari desa tidak lolos seleksi beasiswa karena datanya tidak lengkap di platform digital. Di sini kita melihat AI bisa keliru, dan yang dirugikan adalah mereka yang paling rentan. Masalahnya bukan pada teknologi itu sendiri, tapi pada ketiadaan pengawasan etis dan evaluasi sosial atas algoritma yang dipakai. Seharusnya, AI tidak berdiri di atas logika angka saja, melainkan dikawal oleh prinsip keadilan sosial.

AI Sebagai Alat Kekuasaan

Di China, AI telah menjadi bagian dari infrastruktur kontrol negara. Dalam analisis Cowls (2020), AI digunakan tidak hanya untuk pengawasan, tetapi juga untuk engineering compliance, membentuk warga yang patuh secara sistemik. Kecanggihan yang dipadukan dengan politik otoritarian membuat AI menjadi alat yang membungkam, bukan membangun.

Indonesia memang bukan negara otoriter, tetapi ketika AI dipakai tanpa etika, ia bisa menjadi alat kekuasaan baru yang tak terlihat. Tanpa lembaga pengawas, tanpa audit terbuka, tanpa partisipasi warga, algoritma bisa memutuskan siapa yang layak hidup lebih baik dan siapa yang tidak, tanpa bisa dibantah.

Teknologi Hebat Perlu Pegangan Moral

Regulasi seperti UU Perlindungan Data Pribadi (PDP) di Indonesia memang penting, namun belum cukup. UU itu fokus pada data. Padahal AI tidak hanya mengelola data, tetapi juga membuat keputusan. Saat ini, kita butuh lebih dari sekadar perlindungan hukum, tapi juga moral.

Etika AI bukan sekadar pedoman teknis, tapi prinsip dasar apa tujuannya, siapa yang paling diuntungkan dan yang paling dirugikan, dan siapa yang punya kendali atas teknologi dan datanya? Tanpa menjawab itu semua, AI hanya akan memperkuat struktur ketimpangan yang sudah ada dengan dalih “otomatisasi”.

Membangun AI yang Etis dan Adil

Ada langkah konkret yang perlu didorong oleh pemerintah, masyarakat, dan komunitas teknologi di Indonesia: 1. Audit algoritma secara berkala: Setiap sistem berbasis AI, terutama di sektor publik, harus bisa diaudit yang transparan, terbuka, dan bisa dikritisi. 2. Lembaga etika AI independen: Kita perlu badan nasional yang mengawasi pengembangan dan penerapan AI, bukan hanya oleh pemerintah tapi juga sektor swasta. 3. Literasi digital dan etika AI untuk publik: Masyarakat harus tahu bahwa keputusan yang diambil mesin bisa keliru dan mereka punya hak untuk bertanya, menolak, bahkan menggugat. 4. Pembuatan kebijakan berbasis partisipasi: Rancang regulasi bersama masyarakat sipil, akademisi, dan kelompok rentan, agar AI berpihak pada manusia, bukan sekadar efisiensi.

Ilmu Tanpa Hikmah Adalah Bahaya

Islam tidak menolak teknologi. Justru sebaliknya, Islam sangat menghargai ilmu. Namun, Al-Qur’an mengingatkan kita bahwa ilmu harus disertai hikmah yaitu, kebijaksanaan, keadilan, dan kebermanfaatan.

“…Barang siapa diberi hikmah, sungguh ia telah diberi kebaikan yang banyak.” (QS Al-Baqarah: 269)

Dalam konteks AI, hikmah berarti: 1. Menggunakan teknologi untuk kemaslahatan, bukan kontrol berlebihan. 2. Memberikan perlindungan kepada yang lemah, bukan memperkuat yang berkuasa. 3. Menempatkan  akal di bawah nurani, bukan sebaliknya

Keadilan Tidak Boleh Kalah sama Kecanggihan

AI adalah alat. Ia bisa memudahkan, menyederhanakan, mempercepat. Tapi tanpa etika, ia juga bisa menyakiti, menyingkirkan, dan memiskinkan secara sistematis. Baik China maupun Indonesia menunjukkan bahwa pintar saja tidak cukup. Di tengah revolusi digital ini, kita tidak boleh tertinggal dalam hal etika. Karena di balik algoritma, tetap ada keputusan moral yang harus dijaga oleh hati nurani manusia.

*Penulis merupakan Helga Irena Pratiwi, mahasiswi Magister Ilmu Komunikasi Universitas Muhammadiyah Jakarta.