Pada minggu lepas, kami telah melaporkan bahawa syarikat pembangun teknologi kecerdasan buatan Anthropic telah menolak arahan Pentagon dan Department of War Amerika Syarikat untuk membenarkan badan ketenteraan tersebut untuk menggunakan teknologi AI Claude mereka tanpa sebarang halangan.
Setelah beberapa amaran diberikan, badan tersebut telah mengumumkan bahawa Anthropic kini disenaraikan sebagai sebuah entiti berisiko terhadap rantaian bekalan teknologi ketenteraan Amerika Syarikat kerana keengganan mereka untuk akur kepada arahan Department of War.
Baru-baru ini, Dario Amodei, CEO Anthropic telah ditemubual oleh rangkaian berita CBS berkenaan isu tersebut, dan telah menjawab mengapa mereka tegas tidak mahu pihak tentera negara tersebut diberi kawalan tanpa had terhadap model kecerdasan buatan Claude.
Diantara sebab yang diberikan adalah tempoh masa tiga hari yang diberikan untuk sebarang persetujuan dilakukan adalah terlalu singkat. Pihak DoW juga dilihat telah mengubah sedikit teks perjanjian itu untuk membolehkannya menggunakan alasan “keselamatan negara” untuk membolehkan mereka menggunakan Claude untuk tujuan lebih dari ketenteraan, termasuklah pengawasan besar-besaran rakyat Amerika Syarikat sendiri.
DoW juga mahu membangunkan teknologi perang yang tidak memerlukan sebarang input dan arahan dari pengguna manusia. Amodei mengatakan bahawa setakat ini, tidak ada satu pun teknologi kecerdasan buatan yang cukup bagus untuk memastikan bahawa senjata-senjata yang akan dibangunkan ini tidak akan membuat sebarang kesilapan.
Dalam pada itu, sekiranya sebarang kesilapan telah dilakukan, tidak ada seorang individu yang dilihat akan bertanggungjawab untuk insiden-insiden tersebut, dan dari segi kemanusiaan, ini adalah satu perbincangan yang perlu dilakukan oleh pelbagai pihak, termasuklah Kongres Amerika Syarikat dan juga rakyatnya.
Anthropic sebelum ini dilihat mempunyai kontrak bersama DoW, tetapi kerana Anthropic tidak mahu teknologi mereka digunakan secara salah, bukan sahaja kontrak tersebut telah dibatalkan, syarikat-syarikat lain yang mempunyai kontrak dengan DoW juga kini tidak dibenarkan untuk menggunakan teknologi AI Anthropic untuk sebarang jenis tujuan.
Setelah kontrak Anthropic dibatalkan, OpenAI dilaporkan telah mengambil-alih kontrak ketenteraan tersebut, tetapi menariknya Markas Tengah Pentagon (CENTCOM) masih menggunakan teknologi Anthropic untuk melakukan serangan keatas Iran.
