AKAL imitasi (AI) generatif menawarkan peluang transformatif dalam meningkatkan efisiensi dan layanan.
Namun start up sebagai pengembang AI, kerap menghadapi persoalan data sensitif, regulasi yang ketat, dan keterbatasan sumber daya dalam mengimplementasikan teknologi barunya.
Regulasi yang menjamin kepastian eksperimen yang aman dan terstruktur, diperlukan agar eksplorasi potensi AI generatif dapat berlangsung tanpa mengorbankan keamanan, tata kelola data dan terlanggarnya regulasi.
Formula regulatory sandbox diproyeksikan untuk mendukung pengujian dan pengembangan teknologi AI secara aman dan terkendali, dengan tetap memenuhi standar regulasi yang ketat sebelum diluncurkan ke pasar. Hal ini mendorong inovasi start up untuk menciptakan AI yang terpercaya dan aman.
Baca juga: Pendekatan Holistik RUU Keamanan dan Ketahanan Siber
"Regulatory Sandbox"
AI regulatory sandbox adalah ruang uji coba terkendali bagi pengembang AI untuk menguji teknologi mereka di bawah pengawasan regulator yang kompeten.
Di dalam sandbox, pengembang memiliki kesempatan mengembangkan, menguji, dan menyempurnakan produk atau layanan AI, sebelum dipasarkan secara luas.
Pengujian dilakukan dalam batasan yang jelas dan sesuai dengan regulasi yang berlaku. Dengan demikian, risiko yang mungkin timbul dapat dimitigasi dan dikendalikan.
Salah satu elemen utama dari AI regulatory sandbox adalah, adanya pengawasan ketat dari otoritas berwenang. Hal ini untuk memastikan produk yang diuji memberikan manfaat produktif, tidak melanggar hak asasi manusia, dan keselamatan publik.
AI Regulatory sandbox mendukung inovasi dan memungkinkan pengujian produk baru secara bertahap. Hal ini berpotensi mempercepat adopsi teknologi AI di pasar tanpa mengabaikan standar perlindungan yang berlaku.
Model ini memberikan dukungan khusus kepada start up penyedia AI yang mungkin kesulitan memenuhi persyaratan regulasi yang lebih kompleks.
Dengan adanya sandbox, UMKM dapat menjalani proses pengujian produk dalam kerangka yang lebih fleksibel, aman digunakan dan memenuhi persyaratan regulasi.
Baca juga: Waspada Jejak Digital, Lindungi Data Pribadi
Tantangan terbesarnya adalah mengelola risiko yang mungkin muncul selama proses pengujian.
Teknologi AI yang belum sepenuhnya teruji di dunia nyata berpotensi menimbulkan dampak negatif terhadap hak-hak individu atau bahkan keselamatan publik.
Oleh karena itu, otoritas yang mengelola sandbox harus memiliki wewenang untuk menghentikan pengujian, apabila risiko tinggi dan fundamental terdeteksi dan tak bisa diatasi.
Pengujian dalam sandbox harus dilakukan dengan prinsip kehati-hatian yang tinggi, dan pengawasan yang terus-menerus terhadap dampak teknologi yang sedang diuji.
Evaluasi risiko dan mitigasi menjadi hal yang sangat penting untuk memastikan bahwa pengembangan teknologi AI tidak membahayakan masyarakat.
Nick Pavlakos at all dalam publikasi “Empowering the public sector with secure, governed generative AI experimentation” (AWS, 20/11/2024) menyatakan bahwa penerapan AI generatif yang berhasil, terutama dalam sektor publik, mengharuskan organisasi untuk dapat melakukan eksperimen dan eksplorasi sistematis dengan data dan SDM mereka sendiri, serta konstituennya.
Baca juga: Keracunan Data, Modus Baru Menyasar Pelatihan AI
Akses terhadap lingkungan eksplorasi sangat penting. Karena tanpa pengalaman langsung, entitas berisiko kehilangan peluang transformatif.
Melalui uji coba terukur, maka tim dapat mengidentifikasi dan memvalidasi kasus penggunaan AI, mengenali keterbatasan teknologi saat ini, dan menetapkan harapan yang realistis.
Untuk menjawab tantangan ini, misalnya Amazon Web Services (AWS) menghadirkan Generative AI Sandbox melalui Amazon Bedrock Studio.
Solusi ini menyediakan lingkungan eksperimental yang aman, terisolasi, dan terkendali bagi organisasi sektor publik untuk menguji model bahasa besar (LLM), serta berbagai alat AI generatif lainnya.
Praktik Uni Eropa
Future of Life Institute dalam publikasi “ EU Artificial Intelligent Act” menyatakan bahwa materi muatan AI Regulatory Sandboxes diatur dalam pasal 57-63 EU AI Act. Dari pasal-pasal tersebut dapat dirangkum sebagai seperti uraian berikut ini.
Pertama, EU AI Act mengamanatkan pembentukan AI regulatory sandbox di setiap negara anggota Uni Eropa, paling lambat 2026.
Sandbox ini merupakan lingkungan terkontrol yang memungkinkan pengembangan, pengujian, dan validasi sistem AI sebelum dirilis ke pasar.
Tujuannya adalah untuk mendorong inovasi, sekaligus mengidentifikasi dan mengurangi risiko terkait hak fundamental, kesehatan, dan keselamatan. Akses ke sandbox ini akan diberikan secara gratis bagi usaha kecil dan start up.
Kedua, pasal 59 EU AI Act mengizinkan penggunaan data pribadi dalam sandbox secara terbatas untuk pengembangan, pelatihan, dan pengujian AI.
Baca juga: Habisnya Hak Cipta Popeye dan Tintin: Inspirasi Revisi UU Hak Cipta
Syaratnya adalah sistem AI yang diuji bertujuan kepentingan publik, seperti keselamatan publik, kesehatan, dan perlindungan lingkungan.
Data yang digunakan harus dipisahkan dan diamankan, tidak boleh dibagikan ke luar sandbox, serta wajib dihapus setelah proyek selesai.
Risiko penggunaan data harus dipantau dan dimitigasi. Proses dan hasilnya juga harus didokumentasikan dan dipublikasikan. Kecuali jika terkait dengan data penegakan hukum yang sensitif.
Ketiga, Pasal 60 dan Pasal 61 EU AI Act mengatur pengujian sistem AI berisiko tinggi di dunia nyata.
Pengujian hanya boleh dilakukan setelah perusahaan mengajukan rencana uji coba kepada otoritas terkait dalam waktu 30 hari untuk memberikan tanggapan sebelum rencana dianggap disetujui.
Waktu pengujian maksimal berlangsung selama enam bulan dan dapat diperpanjang enam bulan lagi, jika diperlukan. Selama pengujian, perusahaan harus melindungi kelompok rentan dan memastikan keamanan data.
Jika terjadi insiden serius, pengujian harus dihentikan sampai masalah terselesaikan. Selain itu, individu yang terlibat dalam pengujian harus memberikan persetujuan yang mencakup hak mereka untuk menolak, atau menarik diri dari uji coba kapan saja tanpa konsekuensi.
Keempat, Pasal 62 EU AI Act menetapkan bahwa negara anggota Uni Eropa harus memberikan dukungan kepada usaha kecil dan menengah (UKM), termasuk start-up, agar dapat memahami dan mematuhi regulasi AI yang baru.
Bentuk dukungan meliputi akses prioritas atas sandbox, pelatihan, konsultasi, dan penyediaan platform informasi terpadu.
Selain itu, UKM akan diberikan kemudahan berpartisipasi dalam pengembangan standar AI, serta biaya kepatuhan yang disesuaikan dengan ukuran dan kapasitas pasar mereka.
Kelima, Pasal 63 EU AI Act, memberikan pengecualian bagi usaha mikro dalam menerapkan sistem manajemen kualitas yang lebih sederhana, selama mereka tidak memiliki hubungan kepemilikan dengan perusahaan lain.
Namun, mereka tetap harus mematuhi persyaratan utama dalam EU AI Act, untuk memastikan kepatuhan terhadap regulasi AI berisiko tinggi.
Baca juga: Pelanggaran ChatGPT dan Denda Otoritas Privasi Italia
Indonesia
Indonesia adalah negara yang memiliki banyak start up potensial. Untuk mendukung inovasi AI domestik, maka pendekatan AI regulatory sanbox menjadi pilihan produktif dan perlu diatur dalam regulasi untuk kepastian hukumnya.
Perlu adanya platform nasional yang dapat memfasilitasi komunikasi antarotoritas yang mengelola sandbox dan para start up dan developer AI terkait.
Melalui platform ini para pihak dapat saling berbagi informasi dan pengalaman, mengenai proses pengujian teknologi AI untuk mempercepat adopsi teknologi yang aman dan terkontrol.
Dengan memberikan ruang bagi pengembang untuk menguji produk mereka dalam lingkungan yang terkendali disertai bimbingan otoritas yang berwenang, AI sandbox dapat mempercepat pengembangan teknologi AI Tanah Air.
AI Sandbox selain membantu mempercepat inovasi, mengurangi hambatan teknis, memangkas biaya eksperimen, juga sekaligus memastikan kontrol dan keamanan data yang ketat. Hal ini dapat menepis keraguan para start up.
Jika diterapkan dengan baik, AI regulatory sandbox dapat menjadi sarana pendukung inovasi teknologi AI Tanah Air yang aman, memiliki nilai ekonomi, dan terpercaya dan memberikan maslahat optimal.
Dapatkan update berita pilihan dan breaking news setiap hari dari Kompas.com. Mari bergabung di Grup Telegram "Kompas.com News Update", caranya klik link https://t.me/kompascomupdate, kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.