Semakin banyak syarikat menggantikan pegawai bantuan perkhidmatan pelanggan dengan chatbot kecerdasan buatan (AI) kerana ia boleh bekerja tanpa henti serta menjawab mesej dengan pantas tanpa mengira masa. Tetapi penggunaan chatbot oleh Meta telah menyebabkan akaun pengguna dicuri dengan mudah hujung minggu lalu.
Antara yang menjadi mangsa ini ialah akaun pentadbiran White House Barack Obama, Sephora dan ketua Angkatan Angkasa Lepas Amerika (Space Force). Penggodam mengambil kesempatan kelemahan pada chatbot Meta AI. Mereka hanya bermula meminta bantuan Meta AI kerana kononnya mereka pemilik sebenar akaun yang ingin dicuri.
Penggodam meminta supaya emel akaun dipindahkan ke emel milik mereka dan Meta AI hanya meminta supaya video swafoto diambil untuk pengesahan identiti. Kemudian penggodam menggunakan AI generatif menjana swavideo dengan wajah pemilik akaun. Meta AI gagal menyedari swavideo tersebut adalah palsu dan akaun telah berjaya dicuri.
Selepas pengguna merungut mengenai kelemahan sistem bantuan Meta AI, timbala presiden komunikasi Meta Andy Stone mengatakan kelemahan ini telahpun ditampal dan mengembalikan akaun terjejas. Insiden ini sekali lagi menunjukkan masalah yang timbul apabila pegawai perkhidmatan bantuan pelanggan manusia digantikan oleh AI sepenuhnya.
Sumber- 404 Media
