KECERDASAN Buatan atau Artificial Intelligence (AI) menjadi pembahasan yang menarik beberapa tahun terakhir.
Hal ini tidak terlepas dari semakin meluasnya penggunaan teknologi AI untuk berbagai keperluan, seperti deteksi gambar, analisis pengenalan wajah, pembuatan konten, hingga robotika dan kendaraan otonom.
Seperti teknologi pada umumnya, AI juga diciptakan untuk mempermudah pekerjaan manusia karena dianggap mampu meningkatkan efisiensi melalui otomatisasi.
AI dapat dilatih untuk mempelajari data dalam jumlah besar (big data), yang kemudian dapat digunakan untuk memberikan informasi-informasi penting yang dibutuhkan dalam pengambilan keputusan.
Selain itu, dengan berbekal data set yang dimiliki, AI dapat mengotomatisasi pekerjaan-pekerjaan yang bersifat monoton dan berulang. Dengan demikian, produktivitas juga dapat ditingkatkan dan biaya produksi dapat dikurangi secara signifikan.
Meskipun demikian, pengembangan dan penggunaan teknologi AI yang semakin pesat juga membawa berbagai tantangan baru bagi masyarakat.
Terlebih lagi, teknologi kecerdasan buatan secara eksklusif masih berada di bawah kendali perusahaan-perusahaan global.
Hal ini dapat berimplikasi pada semakin lebarnya kesenjangan digital karena teknologi AI tidak dapat dijangkau dan dipahami cara kerjanya oleh sebagian besar masyarakat awam.
Oleh karena itu, beberapa peneliti, termasuk peneliti ilmu sosial, mengibaratkan AI sebagai sebuah kotak hitam (black box). Seperti kotak hitam di pesawat terbang, AI merekam dan mencatat data-data yang dibutuhkan untuk menjalankan operasional sistemnya.
Para peneliti menggunakan istilah kotak hitam untuk menggambarkan betapa kompleksnya model dan sistem kecerdasan buatan.
Meskipun input yang ditanamkan dalam AI dan output yang dihasilkannya dapat diamati, namun proses internal yang terjadi dalam sistem AI tidak dapat dipahami dan dijelaskan dengan mudah.
Semakin banyak data yang dikumpulkan dan diproses, semakin sulit pula untuk memahami bagaimana data-data tersebut akan digunakan.
Kurangnya transparasi yang diberikan perusahaan-perusahaan pengembang teknologi terkait hal ini pun pada akhirnya dapat memicu keraguan, ketidakpercayaan, bahkan ketakutan publik terhadap teknologi AI.
Dampak negatif
Frank Pasquale (2015) menjelaskan bahwa masalah kotak hitam dari teknologi ini memiliki dampak yang signifikan terhadap kehidupan sosial manusia, termasuk yang berkaitan dengan HAM dan demokrasi.
Masalah kotak hitam AI sering kali berimplikasi pada keamanan, privasi, bias, dan diskriminasi.
Dalam hal ini, teknologi AI dapat mengancam keamanan data dan privasi pengguna jika data-data pribadi yang terkumpul digunakan sembarangan dan tanpa izin.
AI juga dapat memperburuk diskriminasi terhadap kelompok tertentu karena adanya bias dan prasangka (prejudice) yang tertanam dalam data-data yang dikumpulkan.
Apabila algoritma pembelajaran mesin yang digunakan AI dilatih dengan data yang bias dan diskriminatif, maka keputusan yang diambil oleh sistem AI juga dapat merepresentasikan, bahkan mengamplifikasi bias dan diskriminasi tersebut.
Selain itu, dalam kasus tertentu, pengembangan teknologi AI bukan hanya tidak transparan, namun juga tidak mengikuti peraturan yang telah ditetapkan pemerintah.
Masalah kotak hitam AI juga membawa dampak negatif dalam proses penciptaan ide dan pembuatan karya seni.
Hal ini juga memunculkan tantangan baru bagi dunia pendidikan dan pengembangan industri kreatif. Dalam beberapa kasus bahkan telah ditemukan adanya berbagai pelanggaran hak cipta oleh teknologi AI.
Tidak hanya itu, keakuratan dalam penyajian konten dan informasi oleh teknologi AI pun perlu dipertanyakan untuk menghindari terjadinya misinformasi dan misinterpretasi.
Etika penggunaan dan pengembangan
Mengingat banyaknya dampak negatif yang dapat ditimbulkan dari masalah kotak hitam AI, maka pemerintah dan para pengembang teknologi AI perlu memperhatikan etika dalam penggunaan dan pengembangan teknologi ini.
Perlu ada transparansi dalam penggunaan dan pengembangan teknologi AI, yang berarti segala bentuk keputusan yang diambil oleh sistem AI harus dapat dijelaskan dan dipahami oleh pengguna, serta dapat dipertanggungjawabkan akurasinya.
Penggunaan dan pengembangan teknologi AI juga harus memperhatikan keamanan data dan privasi dari pengguna.
Selain itu, teknologi AI yang dikembangkan juga harus menghargai nilai-nilai demokrasi dan keadilan sosial.
Untuk memastikan penggunaan dan pengembangan teknologi AI tidak menyalahi etika dan regulasi yang ada, perlu adanya pengawasan serta asesmen yang ketat.
Pengawasan yang ketat ini juga dapat mendorong evaluasi dan perbaikan untuk mengatasi kelemahan atau mengisi celah dari model AI yang sudah ada.
Adapun proses pengawasan dan evaluasi ini tidak hanya dibebankan kepada pemerintah, tetapi juga kepada pihak terkait lainnya.
Diskusi dan pembahasan tentang AI juga seharusnya lebih inklusif dan terbuka bagi masyarakat umum.
Dalam hal ini, Uni Eropa dapat dijadikan sebagai contoh. The European Commission telah membuka diskusi dan dialog mengenai AI secara terbuka dengan masyarakat umum melalui forum AI Alliance dalam beberapa tahun terakhir.
Mereka juga membentuk High-Level Expert Group (HLEG) on Artificial Intelligence yang mengumpulkan para stakeholders di Uni Eropa untuk membuat panduan etika penggunaan dan pengembangan AI (Ethics Guidelines for Trustworthy AI).
Kelompok tersebut terdiri dari akademisi, masyarakat sipil, para pemilik perusahaan di sektor teknologi informasi maupun sektor lainnya, serta pembuat kebijakan.
Dengan adanya transparansi dan pengawasan ketat terhadap AI yang melibatkan berbagai pihak, kita dapat meminimalkan potensi pelanggaran hak asasi manusia dan prinsip-prinsip demokrasi karena penggunaan teknologi kecerdasan buatan ini.
Dapatkan update berita pilihan dan breaking news setiap hari dari Kompas.com. Mari bergabung di Grup Telegram "Kompas.com News Update", caranya klik link https://t.me/kompascomupdate, kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.