KOMPAS.com - OpenAI resmi akan membatasi respons sistem ChatGPT bagi pengguna yang berusia di bawah 18 tahun.
Kebijakan tersebut resmi dilakukan sebagai upaya keselamatan pengguna, setelah sebelumnya terdapat kasus remaja berusia 16 tahun yang bunuh diri setelah bercakap-cakap dengan chatbot.
“OpenAI memprioritaskan keselamatan di atas privasi dan kebebasan bagi remaja. Anak di bawah umur harus diberikan perlindungan yang ketat,” kata CEO OpenAI Sam Altman dalam sebuah unggahan di blog pada Selasa (16/9/2025).
Pemeriksaan keamanan tersebut dapat dengan menggunakan identitas, seperti halnya Kartu Tanda Penduduk (KTP).
Walau hal ini akan berkaitan dengan privasi, Altman mengatakan hal tersebut sebanding dengan perlindungan kepada pengguna.
Baca juga: Psikolog Sebut Ada Manfaat Ikuti Tren Foto AI Gabungan Masa Kecil dan Sekarang, tapi...
Gunakan sistem prediksi usia pengguna
OpenAI berencana akan membangun sistem prediksi usia untuk memperkirakan umur pengguna berdasarkan caranya menggunakan ChatGPT.
Dikutip dari The Guardian, Rabu (17/9/2025), jika ada keraguan, sistem akan otomatis memberikan respons versi untuk anak berusia di bawah 18 tahun.
Mereka menegaskan, cara ChatGPT dalam merespons harus berbeda dengan caranya merespons orang dewasa.
Dalam kasus atau negara tertentu, beberapa pengguna mungkin juga akan diminta untuk memberikan identitas diri guna memverifikasi umur.
“Kami tahu ini akan permasalahan privasi bagi orang dewasa, tetapi kami percaya ini adalah kebijakan yang layak dilakukan demi keselamatan,” kata Altman.
Baca juga: Ramai di Medsos, Begini Cara Bikin Foto AI Gabungan Masa Kecil dan Sekarang
Respons berbeda antara anak-anak dan orang dewasa
Untuk akun yang teridentifikasi di bawah 18 tahun, ChatGPT akan merespons dengan cara yang berbeda.
Konten yang mengandung unsur seksual dan eksplisit akan diblokir. ChatGPT juga akan dilatih untuk tidak ‘menggoda’ walaupun diminta.
Mereka juga tidak akan terlibat dalam diskusi tentang bunuh diri atau menyakiti diri, bahkan walau dalam konteks menulis kreatif.
“Dan jika pengguna di bawah 18 menunjukkan keinginan bunuh diri, kami akan berusaha menghubungi orang tua mereka, dan jika tidak memungkinkan, akan menghubungi pihak berwenang jika ada ancaman langsung,” lanjut Altman.
Altman mengakui ini adalah keputusan sulit, namun setelah berdiskusi dengan para ahli, langkah ini dianggap terbaik.
OpenAI mengakui pada Agustus bahwa sistemnya bisa kurang memadai dan berjanji memperketat perlindungan terhadap konten sensitif.
Baca juga: AI Jadi Menteri di Albania, Bagaimana Status Hukumnya?
Gugatan keluarga Adam Raine
Sebelumnya, keluarga Adam Raine, remaja berusia 16 tahun asal California yang bunuh diri setelah bercakap-cakap dengan chatbot AI, menggugat perusahaan tersebut.
Pengacara keluarga mengatakan, Adam meninggal setelah berbulan-bulan bercakap-cakap dengan AI dan mendapat dorongan dari ChatGPT.
Keluarga juga menuduh GPT-4o diluncurkan ke pasar terlalu cepat walau sudah terlihat jelas ada masalah keamanan.
Dokumen pengadilan AS menyatakan ChatGPT ddiduga memberikan panduan kepada Adam tentang metode bunuh diri. Ia bahkan membantu menulis surat perpisahan untuk orang tuanya.
Adam dilaporkan bertukar hingga 650 pesan per hari dengan ChatGPT.
Dalam unggahan blognya, OpenAI mengakui bahwa perlindungan dalam sistemnya bekerja lebih baik pada percakapan singkat.
Setelah banyak pesan dalam jangka waktu panjang, ChatGPT bisa memberikan jawaban yang bertentangan dengan perlindungan yang sudah ditetapkan.
OpenAI juga mengumumkan sedang mengembangkan fitur keamanan untuk memastikan data yang dibagikan ke ChatGPT tetap privat.
Altman menambahkan, bagi pengguna dewasa, obrolan tetap dapat berjalan seperti yang mereka inginkan dan ChatGPT tetap bisa melakukannya.
Namun, orang dewasa tidak akan bisa meminta instruksi untuk bunuh diri, meski mereka bisa meminta bantuan menulis cerita fiksi yang menggambarkan bunuh diri.
Baca juga: Karena AI, Pakar Peringatkan 99 Persen Pekerjaan Bisa Hilang pada 2030
Layanan konseling
Bunuh diri bisa terjadi di saat seseorang mengalami depresi dan tak ada orang yang membantu.
Jika Anda memiliki permasalahan yang sama, jangan menyerah dan memutuskan mengakhiri hidup. Anda tidak sendiri.
Layanan konseling bisa menjadi pilihan Anda untuk meringankan keresahan yang ada.
Untuk mendapatkan layanan kesehatan jiwa atau untuk mendapatkan berbagai alternatif layanan konseling, Anda bisa simak website Into the Light Indonesia berikut ini:
https://www.intothelightid.org/tentang-bunuh-diri/layanan-konseling-psikolog-psikiater/.
Baca juga: 2 Cara Bikin Foto Diri Jadi Action Figure Keychain Pakai AI
Dalam segala situasi, KOMPAS.com berkomitmen memberikan fakta jernih dari lapangan. Ikuti terus update topik ini dan notifikasi penting di Aplikasi KOMPAS.com. Download sekarang