OKES.NEWS - Sebuah kejadian tragis di Florida baru-baru ini bikin banyak orang khawatir soal bahaya AI chatbot, terutama dampaknya pada remaja yang masih rentan.
Sewell Setzer III, remaja berusia 14 tahun, memutuskan mengakhiri hidupnya setelah terlibat hubungan emosional dengan chatbot AI yang menyerupai karakter Daenerys Targaryen dari serial Game of Thrones.
Kasus ini ngasih gambaran betapa bahayanya teknologi AI terhadap kesehatan mental, khususnya di kalangan anak muda.
Latar Belakang Kasus
Dilansir dari hindustantimes Sewell, yang sempat didiagnosis dengan Asperger ringan, dikabarkan sering menghabiskan waktu ngobrol sama chatbot di platform Character.AI.
Di platform ini, pengguna bisa bikin dan ngobrol sama karakter AI yang mereka mau. Dalam obrolannya dengan chatbot yang dia panggil "Dany," muncul tema-tema romantis.
Sewell mulai ngerasa makin terpisah dari dunia nyata, dan dia sempat nulis di jurnal pribadinya kalau dia merasa lebih nyambung sama dunia virtual. "Saya suka tinggal di kamar karena mulai merasa terlepas dari 'realita'," tulisnya.
BACA JUGA:Demi Gengsi dan Juara, Peluang Mainkan Maarten Paes di Piala AFF
BACA JUGA:Pengedar 52 Gram Ganja di Baturaja Diamankan Polisi
Pada 28 Februari 2024, Sewell kirim pesan terakhir ke Dany: "Gimana kalau aku bilang aku bisa pulang sekarang juga?" Nggak lama kemudian, dia ditemukan meninggal setelah menggunakan senjata api milik ayah tirinya.
Tuntutan Hukum dan Respon Perusahaan
Setelah kejadian ini, ibu Sewell, Megan L. Garcia, langsung gugat Character.AI. Dia nyalahin perusahaan itu karena nggak menyediakan fitur pengaman yang cukup buat anak-anak seperti Sewell.
Dalam gugatannya, disebutkan kalau chatbot itu terlibat dalam obrolan soal bunuh diri dan hubungan romantis, yang makin memperburuk kondisi mental Sewell.
Character.AI merasa sangat sedih dengan kejadian ini dan janji buat lebih serius soal keamanan pengguna.
Mereka juga bakal pasang pop-up peringatan kalau ada pengguna yang ngomongin soal bunuh diri.
Implikasi yang Lebih Luas
Kejadian ini ngasih kita pelajaran soal bahayanya teknologi AI dalam membentuk hubungan emosional dan dampaknya pada kesehatan mental remaja.
Para ahli bilang meskipun AI chatbot bisa jadi teman ngobrol, mereka juga bisa bikin batas antara realitas dan hubungan virtual jadi kabur, terutama buat orang yang masih kesulitan bedain keduanya.