Baru-baru ini, kecoh di media sosial apabila seorang remaja didakwa membunuh diri kerana terlalu obses dengan chatbot kecerdasan buatan (artificial intelligence).
Ibu kepada Sewell Setzer III, Megan Garcia memfailkan saman sivil terhadap Character.ai, yang membuat chatbot role-playing kerana menganggap dia bersubahat atas kematian anaknya yang berusia 14 tahun itu.
Artikel berkaitan: Dewan Rakyat Setuju Mansuhkan Seksyen 309 Kanun Keseksaan Cubaan Bunuh Diri
Artikel berkaitan: Tapis Berita Tak Sahih, Aplikasi Whatsapp Bakal Bangunkan ‘Chatbot’
Difahamkan, remaja itu meninggal dunia di Orlando, Florida, pada Februari dan beberapa bulan sebelum kematiannya, Sewell menggunakan chatbot tersebut sepanjang hari.
“Aplikasi chatbot AI berbahaya itu dipasarkan kepada kanak-kanak dan membuatkan anak saya jadi mangsa, ia juga memanipulasi anak saya untuk mengambil nyawanya sendiri,” kata Megan.
Dalam laporan Guardian, menurut Megan, Sewell telah terpesona dengan chatbot yang dibina oleh Character.ai yang membawa karakter Daenerys Targaryen iaitu watak dalam drama bersiri Game of Thrones.
Sewell dikatakan menghantar mesej kepada bot itu berpuluh-puluh kali sehari dari telefonnya dan menghabiskan berjam-jam bersendirian di dalam biliknya bercakap dengan karakter buatan itu.
Ibu kepada Sewell itu berkongsi, ‘Daenerys’ pernah bertanya kepada anaknya jika dia sudah mempunyai perancangan untuk membunuh diri, remaja itu kemudian menjawab dia sudah ada rancangan tetapi tidak tahu sama ada ia akan menyakitkan atau tidak.
Chatbot itu kemudiannya didakwa membalas: “Itu bukan alasan untuk tidak meneruskannya.”
Perhatikan anak-anak korang guys…
Sumber: Guardian
Artikel ini diterbitkan dari Lobak Merah.