Penggunaan AI untuk menghasilkan kandungan di media sosial sekarang sudah menjadi sesuatu yang lazim dan kita mula melihat kandungan AI digunakan bagi tujuan penipuan. Dua minggu lalu suara Siti Nurhaliza digunakan dalam pengiklanan produk yang kononnya diperakui oleh beliau. Meta telah mengumumkan mereka akan mula melabel kandungan yang dijana AI pada Facebook, Instagram dan Threads dalam masa terdekat.
Label mengatakan imej dijana oleh AI akan dapat dilihat dalam aplikasi-aplikasi ini. Apabila ikon ditekan, maklumat mengenai apakah yang digunakan untuk menjananya akan dapat dilihat oleh semua. Meta akan menyokong beberapa sistem pengesahan identiti imej seperti C2PA dan IPTC. Sistem ini digunakan oleh Google, OpenAI, Microsoft, Adobe, Midjourney, dan Shutterstock untuk meletakkan data meta mengenai identiti imej serta melabel ia dijana oleh AI.
Pada waktu ini hanya imej dijana oleh AI mengandungi data meta dan tera air yang mudah dilihat. Kepada penghasil kandungan yang menjana audio dan video dengan AI pula, pilihan akan diberikan menyatakan kandungan dihasilkan dengan bantuan AI bagi mengelakkan kekeliruan penonton. Kegagalan untuk meletakkan label ini boleh menyebabkan mereka dikenakan tindakan.
Kesemua ciri ini diumumkan Meta sebagai persediaan mengharungi pilihanraya Presiden Amerika yang dijangka akan melihat penggunaan AI meningkat mendadak. Kandungan palsu yang dahulunya hanya sekadar gambar kini wujud dalam bentuk video serta audio.
- Sumber
- Meta
