TELAH ditemukan invensi untuk melindungi karya berhak cipta dari pelanggaran platform AI Generatif. Pengembangan alat ini tak terlepas dari maraknya kasus pencipta dan pengembang AI.
Alat itu bernama “Nightshade” yang dirancang untuk mencegah penggunaan karya cipta tanpa izin dengan cara mengacaukan model AI.
Platform yang dikembangkan oleh ilmuwan komputer di Universitas Chicago yang dipimpin Profesor Ben Zhao ini, bekerja dengan meracuni data pelatihan AI (data poisoning). Mengubah piksel secara tak kasat mata yang berakibat AI dalam pelatihannya salah mengenali gambar.
Invensi ini tak urung memantik perhatian World Economic Forum yang menurunkan laporan berjudul “What is Nightshade – the new tool allowing artists to ‘poison’ AI models?” (14/11/2023).
Pengembangan alat ini, sebagai respons atas dugaan banyaknya perusahaan AI melatih model AI dengan menggunakan konten berhak cipta tanpa izin.
Profesor Ben Zhao sebagai pentolan proyek ini berharap alat ini dapat menghilangkan praktik pelanggaran hak cipta dan melindungi seniman.
Saat ini, sejumlah seniman dan label rekaman menggugat perusahaan AI, termasuk OpenAI. Tuduhannya adalah pelanggaran hak cipta dalam pelatihan model AI mereka.
Penggunaan platform Nightshade berpotensi mendorong kompensasi atau royalti untuk karya berhak cipta yang digunakan sebagai bahan pelatihan AI.
Menurut World Economic Forum, AI generatif telah menjadi teknologi yang berkembang paling pesat, menempati posisi kedua dalam daftar 10 teknologi baru teratas dunia 2023.
Namun, untuk mencapai potensi penuhnya, WE Forum menekankan bahwa AI generatif harus dikembangkan dengan memenuhi standar etika dan profesional secara terpercaya.
Baca juga: Dunia Mewaspadai Cybercrime-as-a-Service
Cara kerja
Model AI dituduh kerap mengunduh konten daring tanpa persetujuan penciptanya. Transparansi teknologi ini ternyata bukan hal mudah. Daftar opt-out yang ada pun tidak ditegakkan secara efektif.
Laporan yang dirilis Universitas Chicago “What Is Nightshade?" (2024) menyebut, mereka telah merancang dan menerapkan Nightshade, alat yang mengubah gambar apa pun menjadi sampel data yang tidak sesuai untuk pelatihan model AI.
Tim telah merancang dan menerapkan Nightshade untuk mengubah gambar menjadi sampel racun. Model yang dilatih tanpa izin pun akan melihat perilaku tidak terduga yang menyimpang dari target yang diharapkan.
Misalnya, instruksi yang meminta gambar sapi terbang di luar angkasa, mungkin malah menjadi gambar tas tangan yang melayang di luar angkasa.
Jika digunakan secara bertanggung jawab, Nightshade dapat membantu mencegah pelatihan model AI yang melanggar hak cipta.
Baca juga: Regulatory Sandbox: Pendukung Startup Menghasilkan AI Tepercaya
Laporan universitas bergengsi di AS itu menyebutkan, tujuan Nightshade bukan merusak model, tetapi mencegah pelatihan data berhak cipta tak berlisensi.
Sebelumnya telah ada platform seperti Glaze yang melindungi seniman dari peniruan gaya. Hal ini berbeda dengan Nightshade yang berfungsi ofensif mengganggu model AI yang melanggar hak cipta.
Nightshade mempertahankan efeknya meskipun gambar dimodifikasi, seperti dipotong, dikompresi, atau diberi noise. Hal ini merupakan strategi tahan lama terhadap pelatihan model tanpa izin.
Karen K Ho, dalam artikel "New Data ‘Poisoning’ Tool Enables Artists To Fight Back Against Image Generating AI" Art News (26/10/2023) menyatakan, seniman kini memiliki alat digital baru yang dapat mereka gunakan jika karya mereka diambil tanpa izin sebagai data set pelatihan AI.
Laporan itu menyebut, seniman telah menggugat Stability AI, Midjourney, dan DeviantArt dalam gugatan class-action, dengan alasan materi yang dilindungi hak cipta dan data pribadi mereka telah diambil tanpa izin ke dalam dataset LAION.
Gugatan tersebut memperkirakan koleksi 5,6 miliar gambar, sebagian besar diambil dari situs web publik, mencakup 3,3 juta gambar dari DeviantArt.
Laporan itu juga menyatakan, pada Februari, Getty Images menggugat Stability AI atas foto yang digunakan untuk melatih penghasil gambar Stable Diffusion.
Alat seperti Nightshade dan Glaze telah memberi seniman kepercayaan diri untuk mengunggah karya mereka di internet.
Baca juga: Waspada Jejak Digital, Lindungi Data Pribadi
Keterbatasan
Meskipun memiliki manfaat bagi pelindungan hak cipta, Nightshade memiliki keterbatasan. Terutama dalam penggunaan pada karya seni dengan warna datar atau latar belakang sederhana.
Alat ini pun dirancang bisa beradaptasi dengan perubahan yang mungkin dilakukan oleh pelatih model AI. Intensitas racun dalam gambar dapat disesuaikan. Hal ini untuk menjaga keseimbangan antara pelindungan dan kualitas visual karya seni.
Nightshade masih dalam tahap pengembangan, termasuk diintegrasikan dengan WebGlaze. Ke depan, pengguna dapat menerapkan perlindungan terhadap peniruan gaya, sekaligus mencegah penggunaan karya berhak cipta tanpa izin dalam pelatihan model AI.
Pengembang Nightshade menekankan bahwa proyek ini bukan untuk keuntungan finansial. Proyek diproyeksikan agar komunitas kreator digital dapat melindungi hak cipta mereka dari eksploitasi oleh model AI generatif.
Digital Music News menurunkan laporan “Meet Nightshade A Tool for Fighting Back vs. AI Data Scraping” dan menyebut Nightshade sebagai alat untuk membantu seniman.
Dengan menyisipkan informasi yang salah ke dalam gambar, alat ini membuat model AI menghasilkan hasil yang tidak akurat.
Teknik ini dikenal sebagai prompt poisoning, di mana metadata dan elemen visual dalam gambar diubah, agar AI salah menginterpretasikan kontennya.
Menurut Shawn Shan, peneliti utama dalam proyek ini, tujuan Nightshade adalah mendorong perusahaan AI bekerja sama dengan para seniman dan tak sekadar mengambil karya mereka tanpa izin.
Baca juga: Pendekatan Holistik RUU Keamanan dan Ketahanan Siber
Laporan itu menyebut, dengan metode ini, seniman memiliki cara untuk melawan eksploitasi AI tanpa harus bergantung sepenuhnya pada proses penegakan hukum yang bisa memakan waktu lama.
Nightshade juga memaksa perusahaan AI lebih selektif. Mereka harus menyaring gambar beracun yang dapat merusak model mereka.
Laporan itu menekankan bahwa hal ini adalah langkah penting dalam menciptakan keseimbangan antara inovasi teknologi dan perlindungan hak cipta.
Melissa Heikkila melaporkan dalam MIT Technology Review bertajuk “This new data poisoning tool lets artists fight back against generative AI”, yang menyebut dengan "meracuni" data pelatihan, menyebabkan luaran model seperti DALL-E, Midjourney, dan Stable Diffusion menjadi tidak berguna.
Nightshade mengeksploitasi kerentanan keamanan dalam model AI generatif yang dilatih pada jumlah data yang sangat besar.
Seniman dapat mengunggah karya mereka ke Glaze, memilih untuk menyamarkannya, dan memilih untuk menggunakan Nightshade.
Peneliti menguji serangan ini pada Stable Diffusion dan menemukan bahwa dengan hanya sejumlah kecil gambar beracun, luaran AI menjadi rusak.
Meskipun disebut akan melindungi pemegang hak cipta, tetapi ada risiko dimanfaatkan oleh pelaku kejahatan siber. Baca juga artikel saya sebelumnya “Keracunan Data, Modus Baru Menyasar Pelatihan AI" (Kompas.com, 17/02/2025).
Ada kekhawatiran penyalahgunaan alat ini oleh pihak yang tidak bertanggung jawab seperti penjahat siber. Hal ini dapat menyebabkan gangguan pada sistem AI dan bisa memperlambat pengembangan teknologi AI. Apalagi jika aplikasi ini tersedia secara open source.
Namun Profesor Zhao, penemu alat ini, menepis bahwa penyerang akan memerlukan ribuan sampel beracun untuk menyebabkan kerusakan signifikan pada model yang lebih besar.
Alat ini jika digunakan secara bertanggung jawab akan mendorong praktik pengembangan AI terpercaya yang lebih adil dan etis.
Dapatkan update berita pilihan dan breaking news setiap hari dari Kompas.com. Mari bergabung di Grup Telegram "Kompas.com News Update", caranya klik link https://t.me/kompascomupdate, kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.