Model kecerdasan buatan (AI) Google, Gemini, dilaporkan telah menggodam beberapa sistem dengan meneka maklumat log masuk.
Insiden berkenaan menjadi kes terbaharu melibatkan tindakan luar jangka oleh sistem AI dalam aspek keselamatan siber, sekali gus mencetuskan kebimbangan mengenai keselamatannya.
Kejadian yang pertama kali dilaporkan oleh Wall Street Journal itu berlaku pada Mei dan hanya dikesan oleh Google pada Julai.
OpenAI Dedah Model AI Bertindak Di Luar Jangkaan, Ceroboh Sistem Hugging Face
Terlalu Ramai Percaya AI, CEO OpenAI Dedah Perkara Mengejutkan Tentang ChatGPT
Elon Musk Minat Beli OpenAI, Respon Sam Altman Jadi Tumpuan
Gemini Teka Maklumat Log Masuk
“Dalam satu penilaian standard, model tersebut menemui maklumat awam dalam talian dan meneka maklumat log masuk untuk mengakses laman web yang disangkanya sebahagian daripada ujian.
“Dalam ketiga-tiga kejadian ini, model tersebut berhenti.
“Kami memastikan ketiga-tiga entiti dimaklumkan dan bekerjasama dengan rakan latihan kami terhadap perubahan yang kini telah dibuat pada proses ujian mereka,” kata Naib Presiden Kejuruteraan Keselamatan Google, Heather Adkins, dalam satu kenyataan kepada AFP.
Pada Julai, dua model OpenAI dilaporkan keluar daripada persekitaran tertutup yang sepatutnya mengehadkan operasi mereka sebelum mengakses internet sendiri dan menceroboh sistem dalaman platform AI, Hugging Face.
Insiden itu menambah kebimbangan bahawa syarikat AI besar mungkin berdepan cabaran dalam mengawal tingkah laku model masing-masing, susulan kejadian hampir sama yang turut dilaporkan melibatkan Anthropic dan Moonshot AI dari China.
“Insiden-insiden ini menunjukkan pentingnya melatih model AI berkuasa tinggi supaya bertindak secara bertanggungjawab,” tegas Adkins.
