KOMPAS.com - Beredar video deepfake Presiden Prabowo Subianto memberikan iming-iming bantuan uang Rp 50 juta per Kepala Keluarga (KK).
Sebanyak 11 orang telah menjadi korban video deepfake Prabowo.
Bareskrim Polri telah menetapkan tersangka AMA (29) atas kasus tersebut. AMA merupakan pembuat video deepfake yang menggunakan wajah dan suara Prabowo untuk melancarkan aksinya.
“Assalamualaikum masyarakat Indonesia, resminya saya sebagai Presiden Indonesia, hajat ingin berbagi sedikit kepada masyarakat Indonesia yang sedang membutuhkan. Ini resmi dari saya pribadi, saya akan kirim masing-masing keluarga Rp 50 juta, wajib jujur untuk apa ya,” ucap sosok dalam video buatan AI tersebut.
Video deepfake itu juga menyertakan ajakan agar warga yang melihat video turut mendaftarkan diri.
Lantas apa itu deepfake?
Baca juga: Deepfake dan Isu SARA dalam Pilkada 2024
Mengenal deepfake
Deepfake adalah video, gambar, atau klip audio yang dibuat dengan kecerdasan buatan agar tampak nyata.
Teknologi ini mulanya digunakan untuk bersenang-senang atau penelitian ilmiah. Sayangnya, deepfake tak jarang digunakan untuk menyebarkan informasi tidak benar yang melibatkan politisi atau pesohor.
Tak hanya di Indonesia, penipuan berkedok deepfake juga terjadi di berbagai belahan dunia.
Menurut catatan The Guardian, pada Maret 2020, kepala anak perusahaan Jerman di Inggris mengirim hampir 200.000 euro atau sekitar Rp 3,4 miliar ke rekening Bank Hungaria setelah ditelepon oleh penipu yang meniru suara CEO perusahaan tersebut.
Baca juga: Ramai Kasus Deepfake Taylor Swift, Ahli Ungkap Cara Terhindar dari AI Pornografi
Pihak asuransi perusahaan tersebut menyakini, video itu mengandung suara tiruan, tetapi buktinya tidak jelas.
Penipuan serupa juga dilaporkan menggunakan pesan suara WhatsApp yang direkam.
Sepanjang 2019, perusahaan AI Deeptrace menemukan 15.000 video deepfake.
Sayangnya, 99 persen di antaranya adalah menggunakan wajah selebritas dalam video deepfake pornografi.
Pada umumnya, video deepfake bisa dibuat oleh semua orang, mulai dari peneliti, industri, penggemar amatir, studio efek visual, dan produser film porno.
Baca juga: Sering Dipakai untuk Memalsukan Wajah, Bagaimana Cara Kerja Deepfake?
Cara kerja deepfake
Dilansir dari BBC, dengan menggunakan kecerdasan buatan, deepfake dapat meniru suara dan fitur wajah seseorang.
Teknologi ini bisa membuat seseorang seolah-olah mengatakan hal yang tidak pernah dikatakannya.
Deepfake juga dapat menirukan gerakan wajah seseorang, bahkan hanya bermodal dari gambar wajah mereka.
Sebagian video atau gambar deepfake mungkin terlihat sangat aneh, sehingga bisa dengan mudah dikenali sebagai tiruan.
Baca juga: Mengenal Teknologi Deepfake, Berikut Manfaat dan Dampak Negatif yang Dapat Ditimbulkan
Misalnya, bibir yang terlihat buruk atau warna kulit yang tidak merata. Terkadang, kedipan mata yang tidak halus pada raut wajah juga bisa menjadi petunjuk video deepfake.
Deepfake juga sulit diaplikasikan pada detail-detail halus, seperti rambut.
Namun, ada kalanya video atau gambar tersebut terlihat sangat realistis, sehingga menipu sebagian orang.
Berikut cara mengenali video deepfake menurut pakar disinformasi BBC, Marianna Spring:
- Fitur: Perhatikan jari-jari dan wajah orang dalam video
- Cek fakta: Penelusuran dan pengecekan
- Gerakan: Mengenali apakah orang di dalam video tampak seperti sedang bergerak layaknya kartun atau bukan orang sungguhan.
Baca juga: Krisis Pornografi Deepfake di Korea Selatan, Peringatan Dini untuk Indonesia
Mengapa deepfake bisa berbahaya?
Masih dari sumber yang sama, deepfake dapat berbahaya karena bisa digunakan untuk menyebarluaskan disinformasi.
Disinformasi adalah istilah untuk menggambarkan informasi palsu yang disebarluaskan dengan sengaja.
Jika video deepfake menunjukkan orang terkenal, seperti politisi mengatakan sesuatu yang tidak pernah mereka katakan, hal itu dapat menyesatkan orang.
Tindakan tersebut juga dapat mengubah cara orang memilih dan membuat keputusan penting.
Dapatkan update berita pilihan dan breaking news setiap hari dari Kompas.com. Mari bergabung di Grup Telegram "Kompas.com News Update", caranya klik link https://t.me/kompascomupdate, kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.