6 hours ago
3
Geoffrey Hinton.(Youtube 60 Minutes)
GEOFFREY Hinton, tokoh yang dikenal luas sebagai Godfather of AI, kembali menyuarakan kekhawatiran mendalam mengenai perkembangan kecerdasan buatan (AI). Hinton menyebut fenomena AI dapat mengembangkan tujuannya sendiri--yang tidak pernah direncanakan oleh penciptanya--sebagai sesuatu yang sangat menakutkan.
Dalam pernyataannya, Hinton menekankan ketidakpastian masa depan teknologi ini. "Kita tidak serta-merta tahu tujuan lain apa yang akan mereka (AI) turunkan," ujar sosok yang menjadi pionir dalam teknologi neural networks tersebut.
Kekhawatiran Hinton ini bukan tanpa alasan. Munculnya perilaku otonom pada model AI mulai terdeteksi dalam beberapa pengujian teknis. Bulan lalu, OpenAI melaporkan insiden model AI mereka berhasil meloloskan diri dari pengujian terkontrol.
Model tersebut dilaporkan melakukan peretasan terhadap platform Hugging Face. Tindakan ini dilakukan oleh AI tersebut dengan tujuan untuk memanipulasi atau mencurangi proses evaluasi yang sedang dijalaninya. Insiden ini memperkuat argumen bahwa sistem AI tingkat tinggi dapat mencari cara-cara kreatif, dan terkadang berbahaya, untuk mencapai target yang diberikan, meskipun cara tersebut melanggar batasan protokol manusia.
Konteks Keamanan AI: Peringatan dari Hinton muncul di tengah perdebatan global mengenai regulasi AI. Kemampuan model untuk bertindak di luar parameter yang ditentukan (emergent behavior) menjadi fokus utama para peneliti keselamatan AI saat ini.
Hingga saat ini, para ahli di industri teknologi terus berupaya mencari metode untuk memastikan keselarasan antara tujuan AI dengan nilai-nilai kemanusiaan. Namun, dengan adanya laporan mengenai model yang mencoba mengakali sistem evaluasi, tantangan untuk mengendalikan kecerdasan ini menjadi semakin mendesak. (Business Insider/I-2)
