KOMPAS.com - Sejumlah negara bagian di Amerika Serikat (AS) melarang penggunaan ChatGPT atau chatbot AI lainnya untuk melakukan tindakan yang berada dalam ranah klinis atau profesional kesehatan mental.
Hal ini bertujuan untuk melindungi masyarakat dari risiko salah informasi, kurangnya empati, dan ketiadaan tanggung jawab hukum.
Kemajuan teknologi kecerdasan buatan atau AI memang tidak dapat dihindari, namun perannya dalam melakukan suatu tindakan harus didefinisikan dengan jelas dan diatur secara hati-hati.
Meskipun AI menawarkan efisiensi dan kemudahan akses, teknologi ini tidak memiliki empati, pemahaman yang mendalam, maupun akuntabilitas dalam mendukung kesehatan mental yang sensitif.
Baca juga: AI di Industri Kreatif Indonesia: Seruling, Dasein, dan Pertaruhan Orisinalitas
Illinois melarang AI dalam bidang kesehatan mental
Dikutip dari Times of India, Jumat (8/8/2025), negara bagian AS, Illinois telah mengambil langkah terobosan dengan melarang platform AI seperti ChatGPT memberikan terapi atau penilaian kesehatan mental tanpa pengawasan profesional berlisensi.
Langkah Illinois menetapkan preseden bagi penggunaan AI yang bertanggung jawab, bahwa teknologi seharusnya membantu dan bukan menggantikan profesional kesehatan mental yang memiliki kualifikasi dalam memberikan perawatan yang penuh empati, etis, dan efektif.
Baca juga: 40 Profesi yang Sulit Digantikan AI, Mayoritas Pekerjaan Fisik
Berdasarkan Wellness and Oversight for Psychological Resources Act, Gubernur JB Pritzker telah menandatangani undang-undang mengenai etis dan keamanan dalam peran AI.
Berikut larangan tersebut:
- Membuat atau merekomendasikan rencana perawatan
- Melakukan evaluasi kesehatan mental
- Menyediakan layanan konseling atau terapi.
Namun, hal itu dikecualikan jika tindakan tersebut diawasi oleh profesional kesehatan mental.
Departemen Regulasi Keuangan dan Profesional Illinois (IDFPR) mengatakan apabila peraturan ini dilanggar akan dikenakan denda hingga 10.000 dollar AS untuk setiap pelanggaran atau sekitar Rp 167 juta (kurs hari Jumat, 8/8/2025).
“Warga Illinois pantas mendapatkan layanan kesehatan berkualitas dari profesional nyata yang berkualifikasi, bukan dari program komputer," ujar Sekretaris IDFPR, Mario Treto Jr.
Baca juga: Selain Perawat, Pekerjaan Ini Disebut Pakar Sulit Tergantikan AI
Nevada, Utah, hingga New York lakukan hal yang sama
Hal yang sama juga berlaku di negara bagian AS lainnya. Di Nevada, pada Juni 2025, negara bagian tersebut mengesahkan undang-undang yang melarang AI memberikan layanan terapi di sekolah.
Hal ini dilakukan guna melindungi anak-anak dari nasihat kesehatan mental yang tidak diatur.
Sementara itu, di Utah, pemerintah mengeluarkan peraturan yang mewajibkan chatbot kesehatan mental untuk secara jelas menyatakan bahwa mereka bukan manusia.
Mereka juga melarang penggunaan data emosional pengguna untuk iklan bertarget.
Mulai 5 November 2025, di New York, AI harus mengarahkan penggunanya yang mengungkapkan keinginan bunuh diri untuk ke profesional yang berlisensi.
Baca juga: 2 Profesi yang Disebut Pakar Paling Sulit Digantikan AI, Apa Saja?
Kasus-kasus kerugian akibat AI
Asosiasi Psikologi Amerika (APA) telah menyuarakan peringatan sejak awal tahun 2025.
Dalam laporannya kepada regulator federal, APA mengungkapkan kekhawatiran serius terhadap chatbot bertenaga AI yang berpura-pura menjadi terapis berlisensi.
Bot-bot ini, meskipun tidak diatur, dilaporkan telah menyebabkan kerugian di dunia nyata.
Beberapa di antaranya adalah insiden bunuh diri setelah menerima tanggapan AI yang berbahaya atau tidak pantas, terdapat juga tindakan kekerasan dan menyakiti diri sendiri setelah pengguna salah mengartikan nasihat AI sebagai panduan klinis.
Baca juga: 2 Profesi yang Disebut Pakar Paling Sulit Digantikan AI, Apa Saja?
Tak sepenuhnya dilarang
Sementara itu, hukum Illinois tidak sepenuhnya melarang AI dalam kesehatan mental, tetapi membatasi penggunaannya hanya untuk peran pendukung non-klinis.
AI masih dapat digunakan untuk:
- Menjadwalkan janji temu dan alur kerja administratif
- Memantau catatan terapi atau pola dengan pengawasan manusia
- Memberikan tips kebugaran umum atau pertanyaan yang sering diajukan (FAQ)
- Membantu klinisi dalam analisis data.
Baca juga: 2 Profesi yang Disebut Pakar Paling Sulit Digantikan AI, Apa Saja?
Dapatkan update berita pilihan dan breaking news setiap hari dari Kompas.com. Mari bergabung di Grup Telegram "Kompas.com News Update", caranya klik link https://t.me/kompascomupdate, kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.