MENGERIKAN, robot humanoid Unitree H1, tiba-tiba "marah" dan bertindak tak terkendali, mengayunkan lengannya secara agresif, menjatuhkan peralatan, menghancurkan monitor.
Hal ini sontak menciptakan kepanikan para ilmuwan dan teknisi yang berada di sekitarnya.
Video yang berasal dari CCTV di China ini viral di seluruh dunia. Meski tak memakan korban luka, kejadian ini memantik waswas dan pertanyaan serius tentang keamanan teknologi robotik dan AI.
Robot yang bikin ulah itu adalah robot humanoid, robot yang mampu mempelajari dan melakukan berbagai tugas meniru manusia, seperti memegang benda, memindahkan kontainer, memuat atau membongkar kotak penyimpanan barang, dan banyak lagi.
Media Inggris International Business Times menurunkan laporan berjudul “Robot 'Attacks' Human In Chinese Factory: What Went Wrong And Should We Be Scared?” (07/05/2025), menggambarkan “kemarahan” robot humanoid itu.
Baca juga: Robot Humanoid di China Serang Pekerja Pabrik, Picu Kekhawatiran
Peristiwa itu terjadi pada 1 Mei 2025, saat CCTV merekam kejadian yang mengganggu di lokasi pengujian di China.
Robot yang terpasang pada derek itu mulai bergerak tak terkendali. Seorang pria yang duduk di dekatnya menunduk saat anggota badan robot itu bergerak mendekat dengan berbahaya, sementara pria lain di belakangnya mundur cepat untuk menghindari cedera.
Laporan itu menduga penyebab “kemarahan” robot tersebut adalah kesalahan pengkodean yang menjadi penyebab di balik perilaku kasar robot.
Unitree H1 dirancang dapat dioperasikan bersama manusia. Namun, kesalahan ini mengubah mesin yang telah diuji menjadi potensi bahaya dalam hitungan detik.
Insiden ini menjadi batu uji keandalan otomasi. Meskipun kemajuan teknologi menjanjikan efisiensi, juga membawa risiko kegagalan atau malfungsi ketika pemeriksaan keselamatan tidak dilakukan dengan ketat.
Robot Humanoid
Dikutip dari publikasi resmi NVIDIA “What Is a Humanoid Robot?”, Humanoid adalah robot bipedal serbaguna yang dimodelkan berdasarkan bentuk manusia dan dirancang untuk bekerja bersama manusia untuk meningkatkan produktivitas.
Menurut NVIDIA, Robot ini dirancang untuk bekerja bersama manusia dalam berbagai tugas fisik, dan interaktif dengan struktur bipedal dan didukung oleh Akal Imitasi (AI).
Sensor dan aktuator canggih robot humanoid mampu merasakan, memahami, merencanakan, serta melakukan tugas kompleks secara mandiri.
Kemajuan dalam simulasi dan komputasi memungkinkan mereka belajar lebih cepat dan menangani kondisi dunia nyata yang tidak menentu.
Proses pelatihan robot humanoid mencakup penggunaan lingkungan simulasi, pembelajaran mesin, pembelajaran imitasi, serta pembelajaran penguatan untuk mengembangkan keterampilan seperti berjalan, memanipulasi objek, dan berinteraksi sosial.
Dengan bantuan data sintetis dan kembaran digital, pelatihan dapat dilakukan secara intensif tanpa risiko fisik, dan mempercepat iterasi dan peningkatan performa.
Model yang telah terlatih di dunia virtual kemudian diterapkan kepada robot fisik, yang selanjutnya dapat dilatih langsung di lingkungan nyata untuk mengasah kemampuan praktisnya.
NVIDIA menyoroti aspek keselamatan sebagai unsur kritis dan menyebut beberapa aspek.
Baca juga: Black Out Eropa: Konektivitas Keamanan Siber dan Perubahan Iklim
Pertama, keselamatan fungsional tradisional, untuk memastikan bahwa perangkat keras dan perangkat lunak robot dirancang untuk beroperasi dengan andal dan tanpa menyebabkan bahaya.
Kedua, keselamatan robotika untuk memungkinkan penghentian darurat dan perlindungan guna mencegah kecelakaan.
Ketiga, keselamatan kolaboratif manusia-mesin untuk mengenali dan merespons dengan tepat kehadiran dan tindakan manusia.
Keempat, keamanan sensor untuk menguji dan memvalidasi akurasi sensor robot, sehingga humanoid dapat secara akurat memahami lingkungannya.
Kelima, keamanan AI untuk memeriksa bahwa algoritma yang diandalkan humanoid menghindari salah tafsir dan tidak menimbulkan risiko baru.
Dikatakan lebih lanjut bahwa keselamatan fungsional tradisional dan keselamatan robotika harus didukung oleh standar keselamatan yang ada seperti IEC 61508, ISO 13849 dan ANSI/RIA R15.606.
Ada beberapa standar baru seperti ISO/IEC TS 22440 untuk keselamatan AI dan kelompok studi baru yang diluncurkan oleh IEEE untuk mengeksplorasi dan mengembangkan standar keselamatan humanoid.
Regulasi
Robot humanoid harus dirancang untuk berinteraksi dengan manusia secara aman. Cacat kecil dalam pemrograman dapat mengubahnya menjadi entitas yang tak terkendali.
Hal ini menjadi peringatan nyata bagi semua negara, termasuk Indonesia. Betapa pentingnya standar keamanan teknologi dan proses kualitas pengujian sistem sebelum penerapannya di lingkungan nyata dan regulasi yang mengaturnya.
Interaksi manusia dan mesin seperti robot AI tanpa asesmen risiko yang ketat, dan persyaratan regulasi memaksa dapat menjadi ancaman serius.
Insiden di China, tak boleh berhenti sebatas menjadi kekhawatiran dan skeptisisme terhadap laju kemajuan teknologi. Peristiwa ini harus ditindaklanjuti dengan langkah nyata berupa penerapan standar keamanan dan regulasi tentang AI di berbagai negara.
Jika masih ada pihak yang menyatakan bahwa kita belum memerlukan regulasi AI karena teknologi masih berkembang, maka peristiwa ini seharusnya menjadi bukti bahwa membiarkan AI berkembang tak terkendali tanpa regulasi bisa membahayakan manusia.
Untuk mencegah insiden serupa, penerapan standar keamanan menjadi mutlak. Proses pre-launch assessment, termasuk pengujian skenario kemungkinan terburuk dan validasi sistem kontrol darurat, harus menjadi prosedur wajib.
Penerapan AI Regulatory Sandbox adalah kebutuhan. Berupa ruang aman berbasis regulasi dan simulasi tempat AI diuji secara komprehensif, sebelum dilepas ke publik.
Model ini akan mencegah uji coba atau penerapan AI langsung di lingkungan yang berisiko tinggi.
Baca juga: Regulatory Sandbox: Pendukung Startup Menghasilkan AI Tepercaya
European Parliamentary Research Service (EPRS) menyatakan, meskipun tidak ada definisi yang disepakati, regulatory sandbox secara umum merujuk pada perangkat regulasi yang memungkinkan bisnis untuk menguji, dan bereksperimen dengan produk, layanan, atau bisnis yang baru dan inovatif di bawah pengawasan regulator untuk jangka waktu terbatas.
Regulatory sandbox memiliki peran ganda, mendorong pembelajaran bisnis, yaitu pengembangan dan pengujian inovasi dalam lingkungan dunia nyata.
Regulatory Sandbox juga mendukung pembelajaran regulasi, yaitu perumusan rezim hukum eksperimental untuk memandu dan mendukung bisnis dalam aktivitas inovasi di bawah pengawasan otoritas regulator.
Pendekatan ini bertujuan agar inovasi eksperimental dalam kerangka risiko dan pengawasan yang terkendali. Juga untuk meningkatkan pemahaman regulator tentang perkembangan teknologi baru.
Kesimpulannya, regulasi AI perlu dibuat dan ditetapkan mencakup standar interoperabilitas, standar keamanan, klasifikasi AI berbasis risiko, transparansi algoritma, mekanisme tanggung jawab hukum, dan audit secara berkala.
Insiden robot agresif menjadi kode keras bahwa kemajuan teknologi dan inovasi AI tanpa dibarengi standar keamanan dan regulasi yang bersifat memaksa, berpotensi melahirkan bencana bagi manusia.
Dapatkan update berita pilihan dan breaking news setiap hari dari Kompas.com. Mari bergabung di Grup Telegram "Kompas.com News Update", caranya klik link https://t.me/kompascomupdate, kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.