China Pastikan Perkembangan AI Lebih Lepas Kendali dan Membahayakan

BEIJING – Peringatan Di para peneliti Hingga perusahaan Pembuatan kecerdasan buatan (AI) Amerika, Anthropic, tentang risiko bahwa model yang Lebih canggih dapat lepas kendali Di manusia.

Para pembuat Keputusan Hingga sana juga telah mulai Membuat kerangka kerja dan langkah-langkah Untuk mengatasi risiko serupa.

Amerika Serikat dan Tiongkok Di ini merupakan dua penggerak utama Pembuatan Ilmu Pengetahuan AI canggih dan penerapannya secara Dunia.

Hingga Di meningkatnya perbedaan pendapat Antara kedua Negeri mengenai Keputusan AI dan praktik industri masing-masing, Permasalahan-Permasalahan ini diperkirakan Berencana menjadi inti Di pembicaraan bilateral yang Berencana berlangsung Di akhir September.

Terlepas Di persaingan yang Lebih ketat Untuk Membuat sistem AI, kerangka hukum dan pernyataan Di pejabat Tiongkok Menunjukkan bahwa Beijing memandang risiko AI canggih yang melampaui kemampuan pengawasan manusia yang efektif sebagai masalah serius yang membutuhkan kesiapan.

Di tanggal 13 September, Pembantu Ri Perlindungan Negeri Tiongkok Chen Yixin menulis Hingga situs web sebuah kantor beritapemerintahTiongkok bahwa model-model canggih AS seperti Mythos milik Anthropic dan GPT-5.5-Cyber milik OpenAI dapat menimbulkan risiko serius Untuk infrastruktur informasi penting Tiongkok. Ia menyerukan penguatan komprehensif Di langkah-langkah Perlindungan AI.

Para pengembang AI Tiongkok Mutakhir-Mutakhir ini mempromosikan penggunaan model berbobot terbuka, sebagian Sebab Regu Perlindungan siber dapat menguji, memodifikasi, dan menerapkan model-model ini Untuk tujuan Lini Pertahanan.

Platform penyedia model Hugging Face mengatakan bahwa mereka menggunakan GLM-5.2, sebuah model berbobot sumber terbuka yang dikembangkan Bersama perusahaan Tiongkok Z.AI, Untuk Meneliti intrusi bulan Juli yang melibatkan agen AI “Hingga luar kendali” Di OpenAI. Keputusan ini diambil Sesudah model-model AS yang lebih terkontrol terbukti kurang efektif Di forensik digital.

Akan Tetapi, para ahli juga memperingatkan tentang potensi risiko model berbobot terbuka, Sebab model tersebut dapat dimodifikasi dan didistribusikan ulang tanpa pengawasan yang memadai.