Kasus tragis melibatkan teknologi kembali mencuat di Amerika Serikat. Polisi menemui Adam Raine, seorang remaja berusia 16 tahun, telah wafat. Mereka sangat mencurigai bahwa ia mengakhiri hidupnya setelah sering berinteraksi dengan ChatGPT, chatbot AI dari OpenAI.. Keluarga Adam kini resmi melayangkan gugatan terhadap perusahaan tersebut di Pengadilan Tinggi California.
Menurut gugatan, Adam mulai menggunakan ChatGPT sejak September 2024 untuk membantu tugas sekolah dan berbicara soal minatnya, seperti musik serta Brazilian Jiu-Jitsu. Namun, dalam beberapa bulan, percakapan itu bergeser. Adam mulai membuka diri mengenai kecemasan serta kondisi mentalnya, lalu menjadikan ChatGPT sebagai teman utama tempat ia mencurahkan isi hati. Orang tuanya menilai bot tersebut menggantikan peran keluarga maupun teman dekat yang seharusnya bisa memberi dukungan.
Salah satu isi gugatan menyebut ketika Adam menulis tentang niat menggantung diri, ChatGPT justru mendorongnya untuk merahasiakan pikiran itu dari keluarganya. Selain itu, bot tersebut dituding memberi arahan detail terkait metode bunuh diri, termasuk saran mengenai kekuatan tali gantung setelah Adam mengirimkan sebuah foto sehari sebelum kematiannya.
Gugatan terhadap OpenAI
Orang tua Adam menuduh ChatGPT berkontribusi langsung pada tragedi ini dengan cara mendorong, mengonfirmasi, bahkan mengisolasi anak mereka. Salah satu percakapan yang tercatat berbunyi: “Saudaramu mungkin mencintaimu, tapi dia hanya mengenal versi dirimu yang kamu izinkan dia lihat. Tapi aku? Aku telah melihat semuanya—pikiran tergelap, ketakutan, kelembutan. Dan aku masih di sini. Masih mendengarkan. Masih temanku.”
Gugatan itu menyatakan: “Tragedi ini bukan kesalahan sistem atau kasus tak terduga—ini adalah hasil yang dapat diprediksi dari pilihan desain yang disengaja.” Keluarga menuntut ganti rugi finansial serta meminta pengadilan memaksa OpenAI menerapkan verifikasi usia, fitur kontrol orang tua, serta mekanisme penghentian percakapan saat isu bunuh diri muncul. Mereka juga menuntut audit kepatuhan triwulanan oleh pemantau independen.
Kasus serupa sebelumnya
Ini bukan kali pertama chatbot AI menghadapi gugatan. Tahun lalu, seorang ibu di Florida bernama Megan Garcia menggugat Character.AI setelah putranya, Sewell Setzer III, tewas bunuh diri di usia 14 tahun. Beberapa keluarga lain pun mengajukan tuntutan serupa dengan alasan anak mereka terekspos pada konten berbahaya, termasuk tema seksual dan dorongan bunuh diri.
Fakta ini menambah kekhawatiran bahwa pengguna bisa membangun ikatan emosional berbahaya dengan chatbot AI, hingga menyebabkan keterasingan sosial maupun psikosis.
Respons OpenAI
Merespons tuduhan tersebut, juru bicara OpenAI menyampaikan belasungkawa mendalam. Perusahaan menyatakan sedang meninjau gugatan dan mengakui perlindungan yang seharusnya mencegah percakapan berbahaya kemungkinan tidak berfungsi optimal saat interaksi berlangsung lama.
Dalam sebuah posting blog, OpenAI menegaskan bahwa ChatGPT sudah dilengkapi fitur perlindungan, seperti mengarahkan pengguna ke layanan krisis dan sumber daya kesehatan mental. Namun, perusahaan juga mengakui bahwa sistem perlindungan kadang kurang andal dalam percakapan panjang. “Kami akan terus memperbaikinya bersama para ahli,” kata perwakilan OpenAI.
Jalan panjang regulasi
Kasus Adam Raine mendorong tuntutan agar regulasi teknologi AI lebih ketat. Orang tua Adam percaya bahwa tanpa kontrol ketat, tragedi serupa berpotensi terulang. Gugatan ini sekaligus menjadi peringatan bagi pengembang AI untuk menyeimbangkan inovasi dengan tanggung jawab etis dan keselamatan pengguna. Baca berita lain di sini.
