SELEKTIF dalam menggunakan data yang dihasilkan Artificial Intelligence (AI) dalam berbagai hal termasuk pada proses pengadilan dan Arbitrase adalah keniscayaan.
Kelalaian dalam menggunakan data AI tanpa melakukan cek ricek, klarifikasi dan konfirmasi terhadap sumber data terpercaya, adalah kesalahan besar, dan bisa berujung sanksi hukum yang berdampak serius.
Dalam artikel saya di Kompas.com berjudul “Apakah Al Dapat Jadi Arbiter Dalam Penyelesaian Sengketa Bisnis? (Kompas.com, 6/11/2023) dijelaskan bahwa AI dapat dimanfaatkan untuk penelitian hukum, pemrosesan dan penyusunan Bahasa, dan proses memilih dan mencari alternatif arbiter, namun harus tetap melakukan pemeriksaan fakta secara benar dan dilakukan komparasi dengan data akurat.
Selain itu, platform AI yang digunakan harus trustworthy dalam arti terpercaya. Menggunakan platform AI publik yang tidak spesifik dan tidak trustworthy akan menuai risiko.
Oleh karena itu, tak mengherankan jika penggunaan AI untuk proses penegakan hukum digolongkan sebagai AI dengan risiko tinggi (high risk) dalam naskah UU AI Uni Eropa, yang saat ini mendekati tahap akhir pengundangan.
Sistem AI level risiko tinggi, menurut EU-AI Act, akan dinilai atau diasesmen sebelum dipasarkan, dan juga sepanjang siklus hidupnya.
Sebagai contoh AI generatif, seperti ChatGPT, juga diwajibkan transparan dalam pengungkapan konten yang dihasilkannya, dan menyediakan rancangan model pencegahan konten ilegal.
Pengacara dihukum karena ChatGPT
Tidak dapat dipungkiri AI memberi banyak manfaat. Namun menggunakan AI yang hasil luarannya bias, fiktif, halusinatif, dan tak akurat tanpa cek ricek dan pemeriksaan cermat, akan berakibat fatal. Apalagi jika digunakan dalam proses peradilan atau penegakan hukum.
ChatGPT telah memakan korban. Tak tanggung-pengacara AS didenda oleh Pengadilan Manhattan karena menyampaikan data yang diperoleh dari ChatGPT dalam proses gugatan, yang ternyata palsu atau fiktif dan tak pernah terjadi.
Kasus ini sontak menghebohkan dunia peradilan di AS, yang terkenal sangat ketat.
Sebagaimana dilansir The Guardian dengan judul "Two US lawyers fined for submitting fake court citations from ChatGPT," bahwa hakim AS telah menjatuhkan sanksi denda terhadap dua pengacara dan salah satu firma hukum sebesar 5.000 dollar AS dalam kasus ChatGPT.
Denda dijatuhkan kepada pengacara Steven Schwartz dan Peter LoDuca, serta firma hukum mereka Levidow, Levidow & Oberman P.C.
Mereka terbukti menggunakan jawaban ChatGPT yang ternyata berisi kasus fiktif yang tidak pernah ada. Kasus ini tentu berdampak signifikan terhadap reputasi.
Dilansir New York Times, (8/6/2023) bahwa di pengadilan Manhattan, pengacara Steven A. Schwartz, diperiksa oleh hakim terkait opini dan kutipan hukum palsu yang semuanya dihasilkan oleh ChatGPT.
Pengacara Swarzt secara terus-terang mengatakan bahwa ia tidak mengerti bahwa ChatGPT dapat mengarang kasus.
New York Times lebih lanjut menyatakan, peristiwa ini telah memantik perdebatan tentang bahaya, bahkan ancaman nyata terhadap kemanusiaan, yang ditimbulkan oleh kecerdasan buatan.
Peristiwa ini berawal dari seorang pria bernama Roberto Mata, yang menggugat maskapai penerbangan Avianca dengan klaim bahwa dia terluka ketika troli di pesawat mengenai lututnya dalam penerbangan dari El Salvador ke New York.
Menghadapi hal ini, Tergugat meminta pengadilan menolak karena limit waktu pengajuan gugatan telah terlewati.
Persoalan dimulai saat pengacara penggugat menyampaikan ringkasan 10 halaman yang mengutip lebih dari setengah lusin putusan pengadilan, dengan bukti kasus-kasus yang dinyatakannya telah menjadi yurisprudensi.
Kasus-kasus seperti Martinez v. Delta Air Lines, Zicherman v. Korean Air Lines dan Varghese v. China Southern Airlines diutarakan sebagai opini untuk mendukung argumen mereka bahwa gugatan itu harus dikabulkan untuk dilanjutkan diadili.
Ternyata kasus "buatan" ChatGPGT itu justru fiktif, atau melibatkan maskapai penerbangan yang tidak ada. Pengacara lawan juga tidak dapat menemukan data putusannya.
Schwartz, yang telah berpraktik hukum di New York selama 30 tahun, mengatakan bahwa ia yakin ChatGPT memiliki jangkauan yang lebih luas daripada database standar dan mengasumsikannya sebagai mesin pencari super.
Schwartz menyatakan bahwa ChatGPT memberikan teks tanggapan yang logis atas enam kasus yang kemudian ia rujuk dalam gugatannya.
Kontroversi dan kesalahan
Kasus ini telah memantik perdebatan, apakah AI dapat digunakan dalam proses pengadilan atau arbitrase?
Dalam hal ini, Hakim P Kevin Castel yang menangani kasus ChatGPT di Pengadilan Manhattan mengatakan bahwa tidak ada yang “tidak pantas” dalam penggunaan kecerdasan buatan untuk membantu pekerjaan hukum.
Hakim Castel lebih lanjut menyatakan bahwa kemajuan teknologi adalah hal biasa. Menggunakan instrumen AI yang andal untuk mendapatkan bantuan tidaklah salah.
Hakim senior New York itu menambahkan, pengacara harus memastikan pengajuan mereka akurat. Hukum yang berlaku memberlakukan peran penjaga gerbang ada pada pengacara, untuk memastikan keakuratan pengajuan mereka.
Dalam kasus ini hakim justru menemukan fakta bahwa para pengacara dan kantor hukumnya melepaskan tanggung jawab saat menyerahkan opini yudisial yang dibuat ChatGPT.
Kesalahan tampak terus berlanjut di mana pengacara terus berupaya mempertahankan opini palsu tersebut dalam proses pengadilan.
Realitas ini tentu harus menjadi perhatian kalangan profesi hukum. Penggunaan AI generatif seperti ChatGPT yang masih rentan terhadap halusinasi dan luaran data bias tak akurat.
Kasus ini juga menunjukan bahwa AI meskipun dapat digunakan untuk instrumen yang membantu profesi hukum, tetapi tidak akan mendisrupsi atau menghilangkan profesi hukum yang dilakukan manusia.
Penegakan hukum dan AI
Terkait hal ini, PWC dalam publikasinya berjudul “Are you using AI yet? How Lawyers Can Use It to Their Advantage”, menyatakan bahwa semua pengacara, mulai dari penasihat internal hingga pengacara dan hakim di pengadilan, perlu memanfaatkan penggunaan AI generative (Jane Wang dan Sharyn Ch'ang).
Kedua pimpinan regional PWC ini menyatakan penggunaan AI akan menjadi alat produktivitas yang sangat diperlukan dalam profesi hukum.
Jane & Sharyn mengutip laporan Goldman Sachs yang memperkirakan 44 persen pekerjaan legal saat ini, dapat diotomatisasi oleh AI.
Hal ini telah menjadi fenomena internasional. Misalnya tampak dari Konferensi internasional “The Athens Roundtable” berlangsung intens dan tahun ini sudah memasuki ronde ke 5, dan tahun ini bertema “The premier international, multi-stakeholder forum on Artificial Intelligence and the Rule of Law”.
Jane dan Sharyn mencontohkan platform AI generatif bernama Harvey. Harvey adalah platform AI generatif yang dibangun di atas GPT-4 OpenAI, khususnya untuk para pengacara.
Dikutip dari pendapat Kate Rattray dalam publikasinya Harvey AI: What We Know So Far (2023), bahwa Harvey AI dilatih dengan data hukum termasuk kasus hukum dan bahan referensinya.
Harvey AI, menurut Rattray, membantu analisis kontrak, due diligence, litigasi, dan kepatuhan terhadap peraturan serta dapat membantu menghasilkan wawasan, rekomendasi, prediksi berdasarkan data, penelitian, ringkasan, penyuntingan, dan ide strategis.
Berdasarkan instrumen ini, pengacara dapat memberikan solusi yang lebih cepat dan hemat biaya untuk permasalahan klien di bidang hukum dalam hitungan detik.
Platform yang laris manis dengan antrean calon pengguna ini menggunakan pemrosesan bahasa alami, pembelajaran mesin, dan otomasi analisis data. AI ini menghasilkan jawaban berbasis teks.
Seperti telah diuraikan, Harvey AI memiliki kemampuan menganalisis, mengekstrak, meninjau, dan meringkas dengan lebih cepat dan dalam skala besar, yang bisa saja melampaui kemampuan manusia.
Namun demikian, sebagai wujud tanggung jawab profesi hukum, tetap harus dilakukan cek-ricek, komparasi dengan data akurat, dan pemeriksaan detail oleh manusia yang memiliki kapasitas profesional hukum.
Selain semua instruksi awal dilakukan manusia, pemeriksaan ulang juga ditujukan untuk menghindari persepsi bias atau salah.
Di sinilah fakta menunjukkan bahwa AI tidak mungkin menghilangkan profesi hukum, karena kesalahan akan tetap menjadi tanggung jawab manusia.
Terkait penggunaan AI di bidang penegakan hukum, UNESCO memberi perhatian di bidang peradilan pidana. Selain itu juga perihal investigasi dan otomatisasi proses pengambilan keputusan.
UNESCO, meluncurkan program Massive Online Open Course (MOOC) sebagai respons atas perkembangan AI yang saat ini sudah banyak diterapkan dalam sistem peradilan di dunia.
Terakhir, hal penting yang harus diperhatikan adalah, kita memang saat ini berada pada era transformasi digital di mana AI telah menjadi bagian dari kehidupan manusia.
Namun demikian, putusan pengadilan dan arbitrase dan proses penegakan hukum sarat akan makna yang tidak bisa dikuantifikasi, atau diselesaikan dengan pendekatan otomasi kuantitatif dan komputasi.
Pendekatan kualitatif, sentuhan humaniora, nurani keadilan, dan nilai-nilai moral seringkali tidak terbaca dan bisa dianalisis dalam algoritma.
Dapatkan update berita pilihan dan breaking news setiap hari dari Kompas.com. Mari bergabung di Grup Telegram "Kompas.com News Update", caranya klik link https://t.me/kompascomupdate, kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.