Kemampuan kecerdasan buatan (AI) menghasilkan video dan audio palsu sekarang amat menggerunkan kerana semakin sukar membezakan yang palsu dengan yang asli. Di YouTube sudah wujud masalah video palsu memaparkan selebriti dan pempengaruh dihasilkan menggunakan AI. Sebelum ia menjadi semakin parah, YouTube mengatakan mereka sedang membangunkan beberapa alat yang akan mengesan video dan audio palsu ini.
Alat pertama akan mengesan audio sintetik dijana AI menggunakan suara penyanyi tertentu yang menggunakan teknologi Content ID sedia ada. Maka jika ada video AI dihasilkan menggunakan suara penyanyi asal ia boleh mengesannya dengan pantas. Teknologi masih sedang diperhalusi dan akan diuji bermula tahun 2025.
Alat kedua pula boleh mengesan waja artis, selebriti, pelakon, ahli sukan dan pempengaruh daripada digunakan dalam video dijana oleh AI. Sistem pengecaman wajah ini diharapkan dapat mengesan kandungan video palsu dengan pantas di YouTube sebelum ia mendatangkan impak negatif kepada tuan punya wajah.
Setakat ini hanya YouTube mengumumkan ciri pengesanan video dan audio sintetik. Platform lain masih lagi lalai dan ini adalah merisaukan kerana dengan teknologi AI sedia ada ramai sudah terpedaya dengan kandungan palsu yang cuba mencipta naratif negatif. YouTube sudahpun mewajibkan kandungan AI dilabel sejak tahun lalu tetapi ia masih perlu dilakukan secara sukarela oleh pemilik akaun.
