DEEPFAKE adalah bentuk pemanfaatan Artificial Intelligence (AI) untuk membuat foto, audio, atau video yang produknya memanipulasi kemiripan individu aslinya.
Meskipun memiliki fungsi lain, deepfake kerap disalahgunakan dalam modus kejahatan siber, yang tidak hanya merugikan, tetapi juga menciptakan disinformasi dalam masyarakat.
Dikutip dari Yahoo!Finance, konten deepfake di internet tumbuh dengan kecepatan 400 persen dari tahun ke tahun. Sementara Edsmart, memprediksi pada 2023, sekitar 500.000 video dan suara deepfake akan dibagikan di media sosial di seluruh dunia.
Materi kuliah saya untuk para mahasiswa di Fakultas Hukum Universitas Padjadjaran ini, saya bagikan juga kepada pembaca Kompas.com untuk manfaat lebih luas.
Modus
Modus kejahatan siber berbasis AI ini, memiliki dampak sangat signifikan. Karena sesuai karakter cross border, platform digital bisa terkoneksi dengan individu secara global.
Dukungan telepon cerdas juga memungkinkan jangkauan ke ranah paling privat tanpa mengenal ruang dan waktu.
Jika dibiarkan, maka fenomena ini selain dapat menimbulkan kerugian dan ketersesatan informasi, juga dapat melahirkan krisis kepercayaan terhadap teknologi, termasuk terhadap AI itu sendiri.
Apalagi fenomena tertinggalnya regulasi oleh teknologi menjadi realitas umum di berbagai negara saat ini.
Secara sederhana, deepfake dideskripsikan sebagai model pemanfaatan AI dengan menggunakan dua algoritma AI kontrakdiktif, yakni generator dan diskriminator.
Saya menyebut jenis kejahatan ini sebagai AI-Crime, kejahatan siber dengan menggunakan AI sebagai "instrumentum criminis res".
Profesor Meredith Somers dalam artikelnya berjudul Deepfakes, explained, MIT Sloan School of Management (2020), mengatakan bahwa deepfake mengacu pada jenis media sintetis tertentu di mana seseorang dalam gambar atau video ditukar dengan kemiripan orang lain.
Istilah deepfake pertama kali diciptakan pada akhir 2017. Pelaku Deepfake pernah memanipulasi tokoh Mark Zuckerberg dari Facebook.
Dalam video yang sudah diedit, pelaku melakukan deepfake dengan konten menggembar-gemborkan betapa hebatnya memiliki miliaran data orang lain.
Somers mengutip pendapat Henry Ajder, Head of Threat Intelligence at Deepfake Detection Company, Deeptrace, yang menyatakan bahwa deepfake banyak dikonotasikan negatif.
Namun ada sejumlah kegunaan deepfake yang berpotensi memberi manfaat bagi bisnis. Khususnya aplikasi dalam pemasaran dan iklan yang sudah digunakan oleh merek-merek terkenal.
Modus deepfake tidak hanya digunakan untuk penipuan online bermotif keuangan, tetapi juga fitnah, pencemaran nama baik, hoax dan ujaran kebencian. Deepfake akan berdampak negatif terhadap platform ekonomi digital.
Sebagaimana dilansir Washington Post (5/3/2023), dengan judul They thought loved ones were calling for help. It was an AI scam, melaporkan bahwa dengan deepfake penipu melakukan modus menyarukan identitas dan suara, sehingga korban mengira orang yang dicintai sedang meminta bantuan. Modusnya klasik, meminta korban mentrasfer uang.
Penipu menggunakan AI dalam aksinya, sehingga suaranya terdengar persis seperti anggota keluarga yang sedang dalam kesulitan.
Korban dalam wawancara dengan Washington Post mengatakan, mereka belakangan menyadari telah ditipu ribuan dollar Amerika.
Modus konservatif penipuan melalui sarana telekomunikasi sudah banyak terjadi. Penipu biasanya menelepon korban pada waktu yang paling rentan, seperti malam hari atau jelang subuh.
Kondisi korban yang baru terjaga dari tidur dan sulitnya menghubungi keluarga atau kerabat yang dijadikan obyek oleh penipu, memungkinkan modus ini bisa berjalan sesuai target.
Raef Meeuwisse, pakar AI dan penulis Artificial Intelligence for Beginners, melalui publikasinya berjudul The Biggest AI Moment Ever for Cybercrime Just Happened (24/3/2023), antara lain menyatakan, pencurian dan penggunaan ulang model AI, tidak hanya dapat dilakukan oleh penjahat dunia maya profesional dan canggih. Kejahatan ini dapat dilakukan dengan menggunakan perangkat keras yang sangat kecil dan murah.
Situasi ini tentu mengkhawatirkan, karena modus penipuan yang dikira banyak orang harus dilakukan dengan instrumen mahal, justru dapat dilakukan seperti itu.
Rekayasa digital melalui teknologi telah mempermudah pelaku untuk meniru suara dan bentuk visual.
Dilansir dari laporan US Federal Trade Commission (FTC), pada 2022 lebih dari 36.000 laporan tentang penipuan dengan modus deepfake, dengan modus berpura-pura sebagai teman dan keluarga.
Menurut FTC, lebih dari 5.100 insiden terjadi melalui telepon dengan kerugian lebih dari 11 juta dollar AS.
Kembali ke Raef Meeuwisse, ia mengatakan bahwa sebagai industri tidak hanya dapat mengandalkan kebijakan dan kontrol melalui perusahaan AI besar untuk mencegah penggunaan AI yang berbahaya.
Penjahat cerdas ada di mana-mana, dapat mencuri dan menggunakan kembali AI, dengan cara yang sebelumnya diprediksi dapat dicegah. Hal ini menunjukan bahwa sistem keamanan siber skala besar dalam kasus tertentu tetap rentan dari kejahatan.
AI telah memungkinkan pelaku kejahatan mereplikasi suara dengan sampel audio hanya beberapa kalimat.
Menurut Raef Meeuwisse, didukung oleh AI, sejumlah perangkat daring murah dapat menerjemahkan file audio menjadi replika suara, penipu bisa "berbicara" apa pun dengan mengetiknya.
Celah keamanan siber seringkali lahir karena social engineering. Sebagai contoh meskipun bank telah menggunakan sistem keamanan canggih, tetap saja ada nasabah yang tertipu hanya karena lalai mengirim OTP ke orang yang tak dikenal setelah tertipu dengan cara deepfake.
Deepfake juga seringkali memanfaatkan konten pornografi. Bianca Britton mengutip pendapat Hany Farid, profesor ilmu komputer di University of California, Berkeley (2023) menyatakan bahwa deepfake adalah fenomena yang “benar-benar semakin buruk” karena semakin mudah untuk menghasilkan video yang canggih dan realistis melalui aplikasi dan situs web otomatis.
Profesor Hany Farid menyatakan bahwa teknologi ini sangat advance sehingga dapat menghasilkan gambar dari statistik pelatihan yang relatif kecil, bukan video berjam-jam yang biasanya butuhkan.
Di AS para ahli mengatakan, regulator federal, penegak hukum, dan pengadilan seringkali tidak siap untuk mengendalikan penipuan yang berkembang.
Sebagian besar korban hanya memiliki sedikit petunjuk untuk mengidentifikasi pelaku. Maka sulit bagi polisi untuk melacak telepon dan dana dari penipu yang beroperasi di seluruh dunia.
Profesor Hany yang ahli forensik digital, menyebut hal ini sebagai sesuatu yang mengerikan dan dampak gelap dari kebangkitan AI generatif yang mendukung perangkat lunak membuat teks, gambar, atau suara berdasarkan data yang diberikannya.
Perkembangan matematika dan komputasi telah meningkatkan mekanisme pelatihan untuk perangkat lunak semacam itu, mendorong lahirnya chatbots, pembuat gambar, dan pembuat suara seperti aslinya.
Aplikasi penghasil suara AI menganalisis unsur suara unik seseorang, termasuk usia, jenis kelamin, dan aksen, serta mencari basis data suara yang luas untuk menemukan suara yang serupa dan memprediksi polanya.
Berdasarkan hal itu kemudian diciptakan kembali nada, timbre, dan suara individu dari suara target, untuk menciptakan efek keseluruhan yang serupa.
Sampel audio singkat diambil dari berbagai platform digital seperti YouTube, podcast, iklan, TikTok, Instagram atau video Facebook. Hanya butuh suara target selama 30 detik, untuk dapat mengkloning suara target.
Banyak Start up di bidang AI yang dapat mengubah sampel vokal pendek menjadi suara yang dihasilkan secara sintetis melalui instrumen text-to-speech, dan secara gratis pula. Jika pun berbayar biayanya antara 5 dollar AS dan 330 dollar AS per bulan.
Lebih lanjut, Profesor Hany Farid dalam artikel berjudul Creating, Using, Misusing, and Detecting Deep Fakes (Published 2022) menyebut deepfake sebagai media sintetik yang menangkap imajinasi beberapa orang, menimbulkan ketakutan pada orang lain.
Pemalsuan mengacu pada teks, gambar, audio, atau video yang telah disintesis secara otomatis oleh sistem pembelajaran mesin.
UU PDP dan KUHP Baru
Di Indonesia, ketentuan terkait deepfake terdapat pada UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi. UU PDP pada pasal 66 jo. pasal 68 prinsipnya melarang dan mengancam pidana, terhadap siapa saja yang membuat data pribadi palsu.
Ketentuan lain juga terdapat pada UU No. 1 tahun 2023 tentang Kitab Undang-Undang Hukum Pidana, atau yang dikenal dengan KUHP Baru. Dalam KUHP baru deepfake bermuatan penghinaan dan pencemaran nama baik diancam dengan pidana berdasarkan pasal 433, 434, 436 jo. pasal 441.
KUHP baru juga mengancam pelaku deepfake bermuatan kebencian dan permusuhan dengan pasal 243. Sedangkan deepfake bermuatan pornografi diancam dengan pasal 407. KUHP baru menerapkan sanksi pidana dan/atau denda bervariasi berbasis kategorisasi.
Pasal-pasal KUHP baru ini merupakan reformulasi dari ketentuan UU No.19 tahun 2016 tentang Informasi dan Transaksi Elektronik (ITE).
Seperti diketahui berdasarkan pasal 622 ayat (1) huruf r KUHP Baru, beberapa pasal UU ITE dinyatakan tidak berlaku dan diganti dengan pasal-pasal KUHP baru yang akan efektif berlaku tiga tahun setelah diundangkan.
Masyarakat harus semakin hati-hati, dan tidak mudah teperdaya, sehingga terus jatuh korban. Kecanggihan teknologi dan sistem cyber security, secara realitas tidak bisa seratus persen mengatasi masalah, jika ekosistem digital masyarakat penggunanya tidak terbangun dengan baik.
Banyak modus kejahatan dimulai dengan memanfaatkan kelengahan, ketidaktahuan, atau kelalaian korbannya. Mengedukasi publik dalam membangun ekosistem cerdas digital adalah hal penting.
Dapatkan update berita pilihan dan breaking news setiap hari dari Kompas.com. Mari bergabung di Grup Telegram "Kompas.com News Update", caranya klik link https://t.me/kompascomupdate, kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.