China tegaskan keamanan AI di tengah seruan pelambatan

Beijing (ANTARA) - Pemerintah China menegaskan keyakinannya terhadap manfaat kecerdasan buatan (AI) sekaligus berkomitmen atas keamanannya di tengah beberapa pelaku industri bidang AI di Amerika Serikat meminta agar perusahaan-perusahaan memperlambat pengembangan teknologi tersebut.

"Kami mencermati pernyataan terbaru dari sejumlah pihak dalam industri AI di AS. China memberikan penekanan yang seimbang antara pengembangan dan keamanan dalam hal AI dan kami menanggapi dengan serius risiko yang melekat maupun risiko turunan dari AI," kata Juru Bicara Kementerian Luar Negeri China Guo Jiakun dalam konferensi pers di Beijing, Selasa.

CEO Anthropic Dario Amodei pada Sabtu (13/9) menerbitkan esai berjudul "We Must Pace the Frontier" yang menyerukan kepada industri untuk memperlambat pengembangan AI "frontier" (model AI tingkat lanjut). Dia menyatakan bahwa meskipun hal itu sulit dilakukan, "kita berutang kepada umat manusia untuk mencobanya."

Amodei menyoroti dua faktor pemicu untuk "memperlambat laju pengembangan AI"yakni pertama, "recursive self-improvement" (RSI) yaitu kemampuan AI menciptakan AI lain. Kedua, insiden baru-baru ini di mana agen OpenAI dan Hugging Face yaitu situs yang digunakan pengembang untuk menyimpan dan berbagi kode di mana sekumpulan (swarm) AI melancarkan serangan siber terhadap target yang tidak terkait dengan tugas mereka dan mencoba meretas sistem yang melakukan penilaian terhadap mereka.

Seruan Amodei itu kemudian didukung oleh pendiri Tesla dan SpaceX Elon Musk, CEO OpenAI Sam Altman hingga salah satu pendiri sekaligus pimpinan Google DeepMind Demis Hassabis.

"Seiring dengan pesatnya perkembangan AI, semakin penting bagi kita untuk tetap berkomitmen mengembangkan AI demi tujuan positif, kebaikan, dan kesejahteraan masyarakat; menyelaraskan regulasi dan tata kelola AI," tambah Guo.

Guo menyebut perlu ada sejumlah langkah pengamanan guna mencegah teknologi tersebut lepas kendali.

"China berkomitmen untuk memegang teguh prinsip dasar keamanan dan terus berupaya menyempurnakan hukum, peraturan, kebijakan, norma penerapan, serta aturan etika guna mencegah penyalahgunaan AI, sekaligus memastikan bahwa AI aman, andal, dan dapat dikendalikan," ungkap Guo.

Pada Senin (14/9), Guo menyebut China merilis "AI Safety Governance Framework 3.0" (Kerangka Kerja Tata Kelola Keamanan AI 3.0) yang meninjau dan memperbarui klasifikasi risiko keamanan AI serta menguraikan rekomendasi mengenai optimalisasi langkah penanggulangan teknis dan tindakan tata kelola yang komprehensif.

"AI merupakan perwujudan kecerdasan kolektif dan aset berharga bagi seluruh umat manusia. Pengembangan dan tata kelola AI menuntut penerapan multilateralisme sejati, di mana semua negara bekerja sama membangun kerangka tata kelola global berdasarkan konsensus luas," jelas Guo.

Dia menyebut tidak ada satu negara atau perusahaan pun yang dapat mengembangkan solusi efektif secara mandiri.

"China senantiasa mendukung peran PBB sebagai saluran utama dalam tata kelola AI global dan berpartisipasi dalam tata kelola multilateral AI dengan sikap yang bertanggung jawab. Kami juga siap bekerja sama dengan semua negara untuk membangun sistem tata kelola AI global yang adil dan setara," kata Guo.

Sementara Amodei meyakini bahwa dalam kurun waktu 6-12 bulan ke depan, agen AI yang lebih canggih berpotensi menciptakan "botnet" dan mengambil alih seluruh internet hingga menyebabkan kerugian hingga ratusan miliar dolar.

Amodei yang sebelumnya menjabat sebagai wakil presiden di OpenAI, mengusulkan "rencana tiga langkah" untuk mengatur laju pengembangan AI, yang mencakup pengujian keamanan yang lebih ketat, evaluasi independen terhadap model AI canggih, koordinasi antarperusahaan AI terkemuka, serta peningkatan kerja sama internasional.

Anthropic sendiri adalah perusahaan riset dan keamanan AI berbasis di AS yang didirikan pada 2021. Produk paling dikenal dari Anthropic adalah Claude, model AI generatif yang dirancang membantu bisnis, organisasi nirlaba, dan komunitas sipil.

Namun Anthropic dan Claude disebut digunakan Departemen Pertahanan AS dalam operasi militer untuk menangkap Presiden Venezuela Nicolas Maduro pada Januari 2026 lalu. Minat publik terhadap Claude pun melonjak, bahkan pernah sebagai aplikasi terfavorit untuk diunduh di App Store.

Pendiri Tesla dan SpaceX Elon Musk pun setuju dengan pendapat Amodei itu dengan mengatakan bahwa "Dario benar". Musk menyebut sudah lama menyuarakan peringatan keras mengenai AI dan harus sangat berhati-hati dengan AI. Potensinya lebih berbahaya daripada senjata nuklir.

Musk termasuk pihak yang mendukung upaya organisasi nirlaba "Future of Life Institute" pada 2023 untuk menghentikan pengembangan AI selama enam bulan guna memberikan waktu bagi penerapan langkah-langkah pengamanan.

Sedangkan CEO OpenAI Sam Altman dengan model terkenalnya Chat GPT, juga sependapat dengan Amodei dengan menyatakan "Kita perlu mengatur laju pengembangan AI tingkat lanjut (frontier AI)" dan berniat mengadopsi gagasan yang diusulkan oleh Anthropic dengan berkomitmen melibatkan evaluator independen.

Demis Hassabis, salah satu pendiri sekaligus pimpinan Google DeepMind, juga berkomentar soal rincian mengenai pelambatan pengembangan AI secara kolektif masih perlu dimatangkan, tapi arah langkah tersebut sudah tepat untuk menghadapi momen krusial.

Pada awal Agustus, pemerintah AS menerapkan proses tinjauan keamanan sukarela bagi model AI canggih sebelum dirilis, tapi parameter program tersebut masih belum jelas.

Sedangkan China, kompetitor utama AS di AI, pada Juli 2026 lalu telah menginisiasi pembentukan Organisasi Kerja Sama Kecerdasan Artifisial Global (World Artificial Intelligence Cooperation Organization atau WAICO) yang ditandatangani oleh 29 negara termasuk Indonesia untuk membentuk kerangka tata kelola AI global sehingga dapat memberikan manfaat yang lebih besar bagi masyarakat.

Tahun 2026 di China sendiri disebut sebagai tahun pertama penerapan agen AI (AI Agent), di mana AI beralih dari sekadar kemampuan berkomunikasi menjadi produktivitas nyata, yaitu mengerjakan tugas secara mandiri.

Industri AI di China diperkirakan akan terus tumbuh dengan cepat, dengan adopsi AI di perusahaan-perusahaan besar diperkirakan mencapai lebih dari 80 persen yang menunjukkan bahwa komersialisasi dan penerapan massal menjadi arah utama pengembangan AI di negara tersebut.

Baca juga: Robot China beranjak dari panggung menuju lini produksi

Pewarta: Desca Lidya Natalia
Editor: Bayu Prasetyo
Copyright © ANTARA 2026

Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.