KOMPAS.com - Beredarnya gambar deepfake eksplisit penyanyi Taylor Swift di media sosial, menyoroti kemampuan kecerdasan buatan (AI) dalam menciptakan foto palsu yang tampak meyakinkan.
Deepfake adalah video, audio, atau gambar yang memperlihatkan seseorang mengatakan maupun melakukan sesuatu yang sebenarnya tidak dilakukan.
Insiden ini mendorong platform media sosial X (dulu Twitter) untuk memblokir nama Taylor Swift dalam pencarian.
Dilansir dari BBC, Senin (29/1/2024), Kepala Operasi Bisnis X Joe Benarroch mengatakan, tindakan hanya bersifat sementara untuk memprioritaskan keselamatan.
X dalam pernyataan pada Jumat (26/1/2024) pun menyampaikan, mengunggah konten bersifat ketelanjangan tanpa persetujuan di platform ini sangat dilarang.
"Kami tidak memiliki kebijakan toleransi terhadap konten semacam itu. Tim kami secara aktif menghapus semua gambar yang teridentifikasi dan mengambil tindakan yang sesuai terhadap akun yang bertanggung jawab mempostingnya," ujarnya.
Baca juga: Apa Itu Deepfake Porn dan Bagaimana Cara Membedakannya dengan Konten Asli?
Tren deepfake berkembang jadi revenge porn
Konten deepfake menggunakan AI yang kemudian disebar ke media sosial bukanlah hal baru di tengah masyarakat.
Para ahli pun mewanti-wanti karena konten sejenis dapat menjadi jauh lebih buruk bagi semua orang, mulai dari usia sekolah hingga dewasa.
Profesor di Fakultas Hukum Universitas Virginia, Amerika Serikat, Danielle Citron mengatakan, korban deepfake tidak hanya menyasar selebritas.
Bahkan, beberapa siswa sekolah menengah di seluruh dunia telah melaporkan wajahnya dimanipulasi AI dan dibagikan secara online oleh teman sekelas.
"(Korban) adalah manusia biasa. Kita telah melihat cerita tentang bagaimana hal ini berdampak pada siswa sekolah menengah dan orang-orang di militer. Ini memengaruhi semua orang," kata Citron, seperti diberitakan CNN, Jumat (26/1/2024).
Tren deepfake AI yang saat ini marak berkembang lebih menyerupai praktik yang dikenal sebagai revenge porn.
Revenge porn adalah penyebaran konten pornografi tanpa persetujuan orang yang ada di dalam foto atau video sebagai ajang balas dendam.
Dikutip dari laman Biro Investigasi Federal Amerika Serikat (FBI), konten deepfake pornografi juga kerap dibuat dengan tujuan pemerasan atau sextortion.
Pada sebagian besar kasus sextortion, konten yang dikirim kepada korban biasanya bukan konten sungguhan.
Pelaku lebih sering berpura-pura memiliki akses terhadap konten pribadi untuk menakut-nakuti korban agar membayar uang tebusan.
Namun, masalahnya, seiring berkembangnya zaman akan semakin sulit untuk menentukan apakah foto dan video tersebut asli atau palsu.
Di samping itu, perusahaan media sosial cenderung tidak memiliki rencana efektif untuk terus memantau konten di platform-nya.
Kasus Taylor Swift misalnya, baru dihapus oleh X setelah kurang lebih 17 jam diunggah meski sudah dilaporkan massal.
Baca juga: Platform StopNCII.org Disebut Bantu Hapus Foto Porno Editan dari Internet, Ini Kata Pakar
Cara agar terhindar AI pornografi
Pakar keamanan komputer dari perusahaan layanan TI Firewall Technical, David Jones mengatakan, sulit untuk menghindari kejahatan AI pornografi.
Kendati demikian, orang-orang dapat mengambil beberapa langkah kecil untuk membantu melindungi diri dari penggunaan gambar tanpa persetujuan.
Salah satunya, Jones menyarankan agar orang-orang mempertimbangkan untuk menjaga privasi profil media sosial hanya kepada mereka yang terpercaya.
"Karena Anda tidak pernah tahu siapa yang dapat melihat profil Anda," tutur Jones.
Meski sebenarnya, banyak orang yang terlibat revenge porn secara pribadi telah mengetahui seluk-beluk target mereka.
Namun, membatasi untuk membagikan profil secara umum setidaknya adalah cara yang aman untuk saat ini.
Pasalnya, alat yang digunakan untuk membuat gambar eksplisit palsu memerlukan banyak data mentah dan foto yang menampilkan wajah dari berbagai sudut.
Dengan demikian, semakin sedikit bahan atau foto mentah yang digunakan, akan semakin buruk pula deepfake yang dihasilkan.
Lebih lanjut Jones memperingatkan, sistem AI yang menjadi lebih efisien di masa depan mungkin hanya memerlukan satu foto untuk membuat versi deepfake dari orang lain.
Belum lagi, peretas juga dapat mengeksploitasi korbannya dengan mendapatkan akses ke foto mereka.
"Jika peretas bertekad, mereka mungkin mencoba membobol kata sandi, sehingga mereka dapat mengakses foto dan video yang Anda bagikan di akun Anda," katanya.
"Jangan pernah menggunakan kata sandi yang mudah ditebak, dan jangan pernah menuliskannya," ungkap dia.
Dapatkan update berita pilihan dan breaking news setiap hari dari Kompas.com. Mari bergabung di Grup Telegram "Kompas.com News Update", caranya klik link https://t.me/kompascomupdate, kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.