Pembangunan teknologi kecerdasan buatan dilihat semakin pesat kebelakangan ini, dengan syarikat seperti OpenAI sudahpun mula memperkenalkan model-model baharu dalam masa beberapa bulan sahaja.
ChatGPT yang kini hadir dengan model o3 yang digunakan secara meluas telah diuji oleh Palisade Research, dimana mereka telah menggunakan model bahasaraya tersebut untuk menguji kemampuan menyelesaikan masalah matematik.
Arahan yang ditetapkan oleh Palisade Research untuk ChatGPT o3 ialah untuk ia menyelesaikan tiga masalah matematik, dan kemudiannya untuk menutup instance tersebut setelah ia selesai melakukannya. Menariknya, ChatGPT o3 dilihat mengingkari arahan tersebut, dan telah meminta untuk menyelesaikan lebih banyak lagi masalah, dan tidak menutup instance tersebut seperti yang diarahkan.
Ujian ini dijalankan beberapa kali, dan nampaknya setiap kali ujian sama dilakukan, ia tidak akan menutup diri sendiri, tetapi sekali lagi meminta untuk menyelesaikan lebih banyak masalah lagi. Ujian yang sama digunakan pada LLM lain seperti ChatGPT o4-mini dan Codex-mini dan Palisade mendapati bahawa ia memperlihatkan “perangai” yang sama walaupun prom untuk meminta LLM tersebut ditutup setelah siap melakukan tugasan diberi.
Malah, model bahasaraya lain seperti Claude dan Gemini juga dilihat melakukan perkara ini, walaupun pada kekerapan yang lebih rendah. Palisade mengatakan bahawa Grok oleh xAI tidak menghadapi isu ini, tetapi model bahasaraya tersebut mempunyai masalah-masalah lain.
Ini boleh dilihat sebagai contoh tentang bagaimana buat masa ini, kita masih tidak begitu fasih tentang bagaimana teknologi AI berfungsi, walaupun arahan yang khusus telah diberikan kepadanya, dan ia masih tidak menurutinya.
Palisade mempunyai teori mereka sendiri tentang mengapa insiden ini berlaku. Ia adalah berkaitan tentang bagaimana model-model bahasaraya ini dilatih. Apabila dalam fasa pembelajaran mesin, sistem AI diberi ganjaran untuk menyelesaikan masalah, dan bukan untuk mengikut arahan.
Dan memperlihatkan bagaimana sistem AI sentiasa dalam proses “menyelesaikan masalah”, ia dilihat akan cuba untuk memintas arahan untuk menyelesaikan masalah yang diberikan, dan oleh kerana ini, ia sentiasa berada dalam proses tersebut.