Pada pertengahan bulan Februari, kami telah diberi peluang oleh pihak ByteDance, ibu syarikat di sebalik platform video ringkas dan media sosial TikTok untuk melawat pejabat mereka di Singapura, khususnya pejabat Transparency and Accountability Centre mereka dan sedikit sebanyak melihat apa yang berlaku di sebalik tabir operasi syarikat teknologi digital ini.
Pejabat ByteDance di Singapura terletak di One Raffles Quay dan mempunyai beberapa tingkat. Lawatan sehari kami di sana membolehkan kami melihat pejabat Transparency and Accountability Centre mereka, dimana kami diberi taklimat tentang sejumlah operasi mereka di pejabat tersebut, yang termasuklah moderasi kandungan dan keselamatan pengguna platform TikTok.
Perbualan berkenaan moderasi kandungan di platform tersebut adalah diantara topik pertama yang diperkatakan sewaktu lawatan kami. Pihak TikTok mengesahkan bahawa penyeliaan kandungan di platform tersebut terbahagi kepada dua, iaitu machine moderation ataupun moderasi menggunakan teknologi AI dan juga human moderation, iaitu penyeliaan kandungan menggunakan firasat manusia.
Untuk fasa pembelajaran mesin sistem moderasi AI TikTok, mereka menggunakan 100 gambar dan video untuk mengajar sistem mereka tentang kandungan apakah yang dikategorikan sebagai mudarat. Dan dari ini, sistem tersebut dapat mempelajari konteks sekiranya sesuatu kandungan itu sesuai ditonton, ataupun memudaratkan.
Menggunakan contoh sebilah pisau, sebuah kamera yang disambungkan kepada sistem moderasi TikTok dapat mengesan pisau tersebut, dan memahami sekiranya pisau tersebut dipegang secara mengancam ataupun secara biasa, seperti untuk memotong bahan makanan dan sebagainya.
Kami tidak dibenarkan untuk merakam contoh-contoh ini, tetapi apa yang saya boleh beritahu ialah peratusan penjejakan kandungan yang mengancam ini dilihat sangat tinggi sekali, melepasi 90 peratus. Untuk kandungan-kandungan yang mungkin sistem AI tidak dapat kesan dengan baik, ia akan dihantar ke pasukan moderasi kandungan manusia untuk disemak kembali.
Kebergantungan TikTok terhadap sistem moderasi AI bukanlah sesuatu yang dilakukan semata-mata. Menurut laporan Community Guidelines Enforcement Report untuk suku ketiga 2024 mereka, sistem moderasi AI mereka mengimbas sebanyak 1.6 juta kandungan setiap hari di seluruh dunia, dan kejituan imbasan kandungan ini melepasi 90 peratus. 80 peratus daripada kandungan yang didapati menyalahi peraturan platform akan dipadam secara automatik.
Bergantung kepada jenis kandungan yang dipadam, ia juga boleh menutup akaun-akaun yang memuat-naik kandungan yang didapati melanggar peraturan tersebut. Contoh terkini adalah berkaitan insiden dimana 18 akaun TikTok platform berita tempatan telah ditutup kerana memuat-naik video seorang kanak-kanak diculik di sebuah surau.
Kami diberitahu bahawa insiden ini berlaku kerana walaupun TikTok cekap dalam menangkap konteks tentang apa yang sedang berlaku dalam video, buat masa ini (apabila kami menanyakan soalan ini) ia masih tidak boleh membezakan sebab mengapa sesebuah potongan video itu dimuat naik. Kami juga telah diberitahu bahawa pihak TikTok telah memulihkan akaun-akaun media tersebut dan ia boleh diakses seperti biasa sekarang.
TikTok juga bekerjasama dengan sejumlah NGO tempatan untuk memastikan bahawa kandungan-kandungan yang mungkin mendatangkan kemudaratan kepada keharmonian negara diberikan konteks yang sepatutnya sebelum ia dipadamkan atau dibenarkan untuk terus berada di platform mereka.
Bercakap mengenai moderasi kandungan secara manual, kami telah diberi peluang untuk menguji kebolehan kami untuk mengawasi kandungan-kandungan ini, yang terdiri daripada pelbagai kategori, dari penggunaan senjata, dadah, kandungan yang membahayakan kanak-kanak dan lain-lain.
Pada pendapat saya, tugas mengawasi kandungan ini lebih sukar dari yang dijangka, kerana kadang-kala emosi dan perasaan kita akan mengatasi peraturan dan langkah-langkah yang telah ditetapkan untuk menangani kandungan-kandungan yang diperlihatkan. Pihak pengawas kandungan TikTok mempunyai alat-alat yang terbina seperti menatal video dari bingkai-ke-bingkai dan pelbagai ciri lain seperti perkongsian pendapat untuk memudahkan mereka membuat keputusan tersebut.
Ya, kesilapan menutup 18 akaun media tersebut benar memperlihatkan kekurangan pada sistem moderasi kandungan AI TikTok, tetapi ia juga memperlihatkan ketegasan TikTok dalam tidak membenarkan kandungan yang melibatkan kanak-kanak dalam keadaan tertekan dan didera untuk dimuat-naik ke platform tersebut.
Dari laporan yang sama, TikTok mengatakan bahawa sebanyak 2.1 juta video dari pengguna Malaysia telah dipadam dari Julai hingga September 2024, dimana 99.2 peratus daripadanya dibuang secara proaktif melalui sistem moderasi kandungan AI, dan 89.1 peratus daripada video-video tersebut dibuang dalam masa 24 jam.
Dalam pada itu, pihak TikTok juga berkongsi dengan kami tentang cara-cara mereka memastikan bahawa kanak-kanak selamat apabila menggunakan platform tersebut. Sebagai contoh, pengguna berumur 13-15 tahun tidak dapat mengakses ciri-ciri seperti private messaging, laman For You dan memuat-turun video. Akaun-akaun mereka juga akan ditetapkan sebagai tertutup (private) tanpa pilihan untuk menukar ke terbuka sehingga mereka berumur 16-17 tahun.
Pada tahun lepas, TikTok juga telah memperkenalkan ciri Family Pairing yang membolehkan ibu-bapa untuk mengawal akses akaun anak-anak kecil mereka, dan untuk memastikan bahawa mereka sentiasa mengetahui kandungan apakah yang ditonton oleh anak-anak.
Untuk mereka yang sering menonton kandungan berkaitan kesihatan mental, TikTok juga telah bekerjasama dengan sejumlah NGO tempatan seperti Crisis Helpline Heal 1555, Malaysian Mental Health Association, Doctor Anywhere Malaysia dan MIASA untuk membantu orang ramai sekiranya mereka memerlukan bantuan profesional berkenaan kesihatan mental mereka.
Kami juga telah diberitahu bagaimana kandungan TikTok menjadi lebih viral. Salah faham orang ramai tentang perkara ini ialah penggunaan tanda pagar yang meluas. Kami diberitahu bahawa penggunaan tanda pagar yang banyak memudahkan carian kandungan, ya, tetapi tidak begitu penting dalam menjadikan sebuah video itu viral.
Aktiviti seperti Follow, Like, komen, perkongsian kandungan, penggunaan muzik, samada video tersebut habis ditonton atau tidak akan memberi kesan kepada sama ada video anda akan disuapkan ke lebih ramai pengguna. Secara ringkasnya, lebih ramai pengguna berinteraksi dengan video anda secara positif, kebarangkaliannya lebih tinggi video anda akan dikongsi dengan lebih ramai pengguna, dan juga sebaliknya
Kami juga menanyakan tentang bagaimanakah algoritma TikTok menunjukkan kandungan kepada pengguna baru, dan menunjukkan jenis-jenis video yang mungkin mereka akan cenderung untuk tonton. Apa yang dilakukan oleh TikTok untuk pengguna-pengguna baru ialah mereka akan memperlihatkan lapan buah video, dan bergantung kepada interaksi dengan video tersebut, seperti yang kami terangkan sebelum ini, algoritma TikTok akan melihat bahawa anda lebih gemari video-video yang dihabiskan, dan untuk kumpulan-kumpulan lapan video seterusnya, akan memperlihatkan video-video yang seakan dengannya, ataupun daripada pencipta kandungan yang sama.
Setelah beberapa kumpulan video-video ini diperlihatkan, laman For You anda akan memperlihatkan video-video yang ia fikir anda gemari, dan akan memperlihatkannya dari pelbagai jenis genre, memberi anda pandangan bahawa anda telah mendapat suapan video yang bukan sahaja senang untuk ditonton, tetapi kena dengan citarasa anda.
Untuk memastikan bahawa anda tidak hanya menonton video-video yang sama, TikTok juga akan set semula suapan video anda, supaya anda menonton lebih banyak jenis video dan bukan sahaja kandungan yang anda fikirkan anda mahu. TikTok mengatakan bahawa ini akan menyegarkan suapan pada laman For You anda, supaya anda menemui lebih banyak kandungan baru yang menarik.
Dalam pada itu, jika anda mahu menyegarkan suapan kandungan laman For You anda dengan sendiri, anda juga boleh melakukannya didalam menu tetapan, dan semua data yang disuapkan kepada algoritma TikTok akan dilupakan.
Jika anda berminat untuk mengetahui lebih lanjut tentang bagaimana TikTok mengesyorkan kandungan untuk anda, anda boleh layari laman web ini. Ia juga sedikit sebanyak menerangkan bagaimana algoritma tersebut memastikan anda melihat kandungan yang selamat dan tidak menggusarkan hati.
Ini adalah sedikit sebanyak apa yang dapat kami pelajari daripada masa singkat kami di pejabat ByteDance dan TikTok di Singapura. Pejabat ByteDance di Singapura juga mempunyai bahagian pengurusan yang menjaga rantau Asia Tenggara, tetapi operasi Transparency and Accountability mereka merupakan diantara operasi mereka yang paling penting di pejabat ini.
