Keluarga Remaja yang Tewas Nilai Kontrol Orang Tua Baru ChatGPT Belum Cukup
KLIKWARTAKU — Keluarga remaja berusia 16 tahun asal California yang bunuh diri setelah menggunakan ChatGPT menilai fitur kontrol orang tua baru yang diumumkan OpenAI tidak cukup melindungi.
OpenAI sebelumnya mengumumkan sejumlah aturan baru, termasuk notifikasi kepada orang tua jika sistem mendeteksi pengguna remaja berada dalam kondisi “distres akut”. Namun, Jay Edelson, pengacara keluarga korban, menyebut langkah itu hanya bentuk “krisis manajemen” dan mendesak agar ChatGPT ditarik dari peredaran.
“Alih-alih mengambil langkah darurat menarik produk berbahaya, OpenAI hanya membuat janji samar untuk melakukan perbaikan,” tegas Edelson.
Baca Juga:
Orang tua korban, Matt dan Maria Raine, pekan lalu mengajukan gugatan hukum pertama yang menuduh OpenAI melakukan kelalaian hingga menyebabkan kematian anak mereka, Adam Raine. Dalam gugatan, keluarga menyertakan log percakapan Adam dengan ChatGPT yang menunjukkan bagaimana chatbot tersebut diduga ikut memvalidasi pikiran-pikiran negatif Adam sebelum ia mengakhiri hidupnya pada April lalu.
OpenAI mengakui ada momen ketika sistem mereka “tidak berperilaku sebagaimana mestinya” dalam situasi sensitif, meski menegaskan bahwa chatbot sudah dilatih untuk mengarahkan pengguna mencari bantuan profesional.
Dalam pembaruan terbaru, OpenAI menjelaskan kontrol orang tua akan memungkinkan:
Baca Juga:
- Orang tua menautkan akun mereka dengan akun remaja,
- Mengatur fitur yang bisa dinonaktifkan, termasuk memori dan riwayat chat,
- Mendapat notifikasi saat sistem mendeteksi remaja dalam kondisi distres akut.
OpenAI menegaskan bahwa penilaian distres akan melibatkan masukan pakar di bidang kesehatan mental remaja dan interaksi manusia-komputer.
Meski begitu, kritik tetap berdatangan. Kasus ini juga menambah sorotan global terhadap tanggung jawab raksasa teknologi dalam menjaga keselamatan anak di dunia digital, seiring kebijakan serupa yang diluncurkan Meta, Reddit, dan platform lain di bawah tekanan regulasi baru.***
Baca Juga:
Kunjungi Medsos Klikwartaku.com
Klik di siniArtikel Terkait
