OpenAI mengumumkan mereka telah menangguh proses latihan beberapa model kecerdasan buatan (AI) terkini yang sedang dibangunkan. Ini berikutan puluhan ribu insiden sekuriti yang dikesan melibatkan model yang sedang dilatih berjaya keluar daripada sandbox serta melakukan aktiviti godam tanpa diarahkan.
Ini adalah satu lagi insiden besar melibatkan model AI terkini yang masih dilatih selepas Julai lalu Hugging Face digodam model baharu yang sedang duji oleh OpenAI. Dalam kenyataan yang dikeluarkan Sabtu lalu, OpenAI mengatakan mereka telah mengambil langkah untuk mempercepatkan pengesanan dan mengambil tindakan sekiranya insiden yang sama berlaku sekali lagi.
Penyelidikan dan jurutera sekuriti di OpenAI kini akan menerima notifkasi secara automatik apabila model melalukan aksi yang berbahaya atau menyimpang daripada arahan yang diberikan. Dalam kes yang serius, aktiviti latihan yang dilakukan akan dihentikan dalam masa 30 minit sekiranya dikesan menyimpang daripada arahan.
