Menurut senarai Google Year in Search 2024, Character.AI ialah perkhidmatan kecerdasan buatan (AI) yang paling kerap dicari oleh pengguna Malaysia dan juga global. Chatbot Character.AI dijadikan teman untuk berbual oleh insan yang kesepian dan telah wujud beberapa kes pengguna mempunyai hubungan tidak sihat dengan watak AI maya yang dihasilkan.
Oleh itu Character.AI hari ini mengumumkan beberapa ciri baharu yang membolehkan ibu bapa atau penjaga mengawal penggunaan aplikasi mereka untuk pengguna bawah 18 tahun. Mereka juga boleh melihat watak AI manakah yang paling kerap digunakan serta masa yang dihabiskan. Terdapat juga notifikasi supaya pengguna bawah umur tidak menghabiskan masa terlalu masa berborak dengan AI.
Akhir sekali pengguna akan diingatkan bahawa watak dalam aplikasi bukan manusia sebenar dan setiap perbualan yang dilakukan adalah sekadar fiksyen maka tidak seharusnya diambil serius. Antara isu yang dilaporkan pengguna Characted.AI ialah watak yang didakwa menyuruh pengguna membunuh diri atau ibu bapa kerana timbul perasan tidak puas hati. Dua saman telahpun difailkan disebabkan isu ini.
