KOMPAS.com - Belakangan, deepfake porn tengah menjadi perbincangan di lini masa media sosial Twitter.
Topik tersebut salah satunya diangkat oleh akun @itsindahg pada Sabtu (24/6/2023) pagi.
Pengunggah bernama Indah itu mengungkapkan, terdapat formulir Google berisi revenge porn, penyebaran gambar intim nonkonsensual (NCII), dan pembuatan deepfake porn.
Tersebar secara online, pemilik formulir Google turut membentuk grup Telegram untuk menyebarkan konten pornografi tersebut.
"Ini perempuan siapa saja dimana saja bisa menjadi korban, bayangin kalau itu kamu, sahabatmu, kakak adekmu, ibumu," tulisnya, Minggu (25/6/2023), dan dikutip Kompas.com atas izin.
Menanggapi unggahan yang telah dilihat lebih dari 3,3 juta kali itu, salah satu warganet Twitter membenarkan bahwa saat ini semua orang dapat menjadi korban revenge porn.
Sebagai informasi, revenge porn adalah konten pornografi nonkonsensual atau tanpa persetujuan orang sebagai wujud balas dendam, kecemburuan, atau rasa tidak terima.
"SEMUA orang bisa kena sekarang. Yang gapernah foto bugil, lu bisa DIBUGILIN lewat group tersebut," tulis warganet.
Lantas, apa itu deepfake porn?
Baca juga: Video Syur 47 Detik Mirip Rebecca Klopper Viral, Jangan Sebar atau Bisa Kena Pidana!
Mengenal deepfake porn
Deepfake adalah video, audio, atau gambar yang memperlihatkan seseorang mengatakan maupun melakukan sesuatu yang sebenarnya tidak dilakukan.
Dengan demikian, pornografi deepfake atau deepfake porn adalah konten seksual buatan yang sebenarnya tidak pernah ada atau terjadi.
Dikutip dari The Guardian, deepfake lahir pada 2017 saat seorang pengguna Reddit mengunggah klip porno hasil rekayasa para selebritas.
Konten deepfake sendiri dibuat dengan memasukkan foto seseorang ke dalam program perangkat lunak menggunakan kecerdasan buatan (AI) bernama deep learning.
Selanjutnya, menurut laman Teen Vogue, AI akan mempelajari ciri-ciri utama subyek, seperti fitur wajah, tingkah laku, atau cara orang tersebut berbicara.
Dengan modal tersebut, program kemudian akan menciptakan gambar, video, atau audio baru hasil manipulasi.
Deepfake dapat dibuat secara instan menggunakan perangkat lunak gratis. Namun, kualitas konten cenderung rendah, sehingga mudah dikenali.
Sementara deepfake yang lebih meyakinkan, membutuhkan waktu lebih lama serta perangkat lunak dan komputer lebih canggih.
Di sisi lain, BBC melaporkan pada 27 Mei 2021, kasus konten deepfake porn cenderung meningkat sejak 2019.
Penyalahgunaan keahlian AI ini merupakan dampak dari teknologi yang lebih mudah diakses masyarakat umum.
Dahulu, orang perlu menerapkan efek visual yang rumit. Sedangkan saat ini, teknologi canggih ini dapat dikerjakan secara mudah menggunakan komputer rumah.
Baca juga: Ramai soal Revenge Porn, Apa Itu?
Cara deteksi foto dan video deepfake
Meski teknologi saat ini sangat berkembang, masih ada beberapa cara untuk membedakan konten deepfake dan asli.
Pertama, proporsi tubuh biasanya akan terlihat aneh atau tidak wajar. Suara atau aksen obyek juga terkadang tidak sesuai.
Gambar tidak nyata hasil rekayasa AI sering kali memiliki kelainan di bagian telinga, tangan, mata, dan rambut.
Bahkan, pada 2018, peneliti Amerika Serikat menemukan bahwa seseorang yang menjadi obyek deepfake tidak berkedip secara normal.
Di beberapa deepfake dengan kualitas buruk, sinkronisasi bibir kemungkinan buruk dan mudah dikenali, serta warna kulit tampak tidak rata.
Bukan hanya itu, efek pencahayaan yang terlihat janggal, seperti pencahayaan yang tidak konsisten dan pantulan aneh pada iris mata dapat menjadi ciri konten deepfake.
Dapatkan update berita pilihan dan breaking news setiap hari dari Kompas.com. Mari bergabung di Grup Telegram "Kompas.com News Update", caranya klik link https://t.me/kompascomupdate, kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.