CEO Antropic, Dario Amodei menggesa pembangunan kecerdasan buatan (AI) diperlahankan dan dipantau kerana isu Ini termasuk risiko kehilangan kawalan sistem AI, penyalahgunaan AI untuk serangan siber dan senjata biologi, dan gangguan ke atas ekonomi yang serius. Perlumbaan antara syarikat AI untuk membangunkan model paling berkuasa yang didorong oleh insentif komersial, boleh menjadikan risiko ini lebih meruncing menurut Amodei.
Gesaan beliau menerima sokongan daripada Elon Musk dan Sam Altman apabila dikongsi di laman X. Jarang sekali melihat ketiga-tiga CEO syarikat AI utama dunia bersetuju lebih-lebih lagi kerana mereka sering bertelagah antara satu sama lain.
Amodeo menyarankan pelan tiga perkara iaitu pemantauan bebas, kawalan industri, dan kawalan global. Pada waktu yang sama beliau menekankan melambatkan pembangunan harus terhad supaya China tidak mendahului dalam perlumbaan AI. Beliau menggesa kerajaan Amerika Syarikat menghalang penjualan cip AI kepada China atau negara yang dilihat bermusuhan.
Beberapa tahun lalu penyelidik AI pernah menerbitkan surat terbuka supaya pembangunan diperlahankan atas sebab keselamatan dengan amaran AI boleh menghapuskan tamadun manusia. Tetapi saranan ini tidak diendahkan keran suntikan data besar menggalakkan syarikat AI untuk mengejar penghasilan kecerdasan am buatan (AGI).
Tahun ini berlaku insiden besar moden AI yang dibangunkan Anthropic dan OpenAI berjaya menerobos keluar daripada ruang kawalan ujian untuk melakukan serangan siber tanpa disuruh. Model Mythos oleh Anthropic dianggap terlalu berbahaya untuk dilancarkan kerana boleh mengesan ribuan kerentanan yang kemudian boleh disalahgunakan.
Dalam laporan keselamatan yang baru diterbitkan minggu ini, Anthropic turut mengesan Claude digunakan untuk mencipta sistem kawalan roket oleh pengganas, dan menjalankan operasi manipulasi pilihanraya di Malaysia menerusi ratusan akaun palsu di X.
Sumber – Dario Amodei
