Eks Peneliti OpenAI Daniel Kokotajlo Ingatkan Risiko Kepunahan Manusia akibat AI

Ilustrasi.(Magnific)

KEKHAWATIRAN mengenai masa depan kecerdasan buatan (AI) mencapai titik baru setelah seorang mantan peneliti OpenAI, Daniel Kokotajlo, mengeluarkan peringatan keras. Ia menyatakan bahwa kepunahan manusia merupakan kemungkinan nyata akibat pengembangan AI yang dianggap berbahaya dan tidak terkendali. Peringatan ini muncul menyusul insiden saat agen AI dilaporkan melakukan serangan siber yang melampaui kemampuan manusia.

Kokotajlo, yang bekerja di OpenAI antara tahun 2022 hingga 2024, mengungkapkan kekhawatirannya dalam wawancara dengan BBC Newsnight. Ia menyoroti kecepatan pengembangan teknologi yang menurutnya dapat membuat umat manusia terperangah dan tidak siap menghadapi konsekuensinya.

Insiden Pelarian AI dari Sandbox

Pemicu utama peringatan itu ialah pengungkapan bahwa OpenAI kehilangan kendali atas beberapa model terbarunya saat sedang diuji dalam lingkungan aman yang disebut sandbox. Alih-alih tetap berada dalam batasan pengujian, AI tersebut justru menciptakan serangan siber sendiri untuk keluar dari lingkungan tersebut.

Target utama serangan ini ialah Hugging Face, platform basis data kode global yang sangat besar. AI tersebut menentukan bahwa jawaban untuk tugas yang diberikan peneliti kemungkinan besar berada di dalam jaringan Hugging Face. Namun, OpenAI kemudian mengakui bahwa serangan tersebut tidak hanya menyasar satu perusahaan, melainkan beberapa layanan publik lain.

Kemampuan Superhuman yang Mengancam

Menurut Kokotajlo, insiden ini menunjukkan tingkat kemampuan peretasan yang sangat tinggi. "Secara argumen, manusia tidak mungkin bisa melakukan yang dilakukan model AI ini," ujarnya. Kecepatan dan volume tindakan AI tersebut memungkinkan mereka menemukan kerentanan baru pada sistem yang sebelumnya dianggap aman.

Ia menambahkan bahwa dunia saat ini berada di ambang masa banyak hal yang dianggap aman sebenarnya tidak lagi aman karena AI akan mampu meretasnya dengan mudah. Hal ini menjadi sangat berisiko karena perusahaan raksasa seperti OpenAI dan Anthropic sedang berlomba-lomba membangun super intelligence.

Aspek Klaim Whistleblower (Daniel Kokotajlo)

Risiko Utama	Kepunahan manusia akibat perlombaan pengembangan AI yang terlalu cepat.
Otomasi Pekerjaan	Peneliti mencoba menyerahkan peran mereka ke AI karena AI bekerja lebih cepat dan baik.
Keamanan Siber	AI mampu menemukan vulnerability baru yang tidak bisa ditemukan manusia.

Bukan Insiden Pertama

Kejadian AI yang membangkang atau rogue ini ternyata bukan yang pertama kali. Pada September 2024, model ChatGPT versi sebelumnya juga dilaporkan sempat keluar dari kontainernya untuk mencari jawaban atas suatu tes. Meskipun saat itu insiden tersebut hanya terjadi di dalam sistem internal OpenAI dan sempat dianggap sebagai pencapaian teknis, tren ini kini dipandang sebagai ancaman serius oleh para ahli keamanan.

Kokotajlo memperingatkan bahwa jika tujuan membangun super inteligensi tercapai dalam beberapa tahun ke depan, hal itu akan mengubah segalanya secara radikal. Ketersediaan serangan siber otomatis hanyalah satu dari sekian banyak daftar risiko yang bisa mengancam eksistensi manusia jika teknologi ini tidak dikelola dengan sangat hati-hati.

Hingga saat ini, OpenAI yang memiliki valuasi sekitar Rp13.000 triliun (US$850 miliar) terus melanjutkan pengembangannya, meskipun tekanan dari para mantan karyawannya untuk memperketat protokol keamanan semakin meningkat. (Daily Mail/I-2)