AI Bisa Ciptakan Racun Patogen Syaraf, Elon Musk & Pendiri Apple Minta Hentikan Pengembangan AI

Surat bersama yang ditandatangani oleh lebih dari seribu orang berpengaruh yang menyerukan pemblokiran semua kecerdasan buatan (AI) yang lebih kuat dari GPT-4 dipublikasikan pada hari Rabu.

Lebih dari 1.000 orang berpengaruh mengklaim telah menuntut penangguhan segera dalam pengembangan sistem AI yang lebih kuat daripada GPT-4, dengan “moratorium” minimum 6 bulan, larangan sementara, menurut surat itu.

“Kami menyerukan semua laboratorium AI untuk segera menghentikan pelatihan sistem AI yang lebih kuat dari GPT-4 setidaknya selama enam bulan. Jeda ini harus bersifat publik dan dapat diverifikasi dan mencakup semua aktor kunci,” bunyi surat itu.

“Jika jeda seperti itu tidak dapat diberlakukan dengan cepat, pemerintah harus turun tangan dan melembagakan moratorium.”

Menurut surat terbuka tersebut, banyak penelitian telah menunjukkan bahwa sistem AI dengan kecerdasan manusia kompetitif yang disetujui oleh lembaga AI terkemuka dapat menimbulkan bahaya yang parah bagi masyarakat dan manusia.

Surat tersebut telah menerima 1125 tanda tangan sejak diterbitkan di Future of Life (FLI), sebuah organisasi nirlaba yang bekerja untuk mengurangi bencana global dan risiko eksistensial yang dihadapi umat manusia, khususnya risiko eksistensial dari AI tingkat lanjut.

“Masalah besar: @elonmusk, Y. Bengio, S. Russell, @tegmark, V. Kraknova, P. Maes, @Grady_Booch, @AndrewYang, @tristanharris & lebih dari 1.000 lainnya, termasuk saya , telah menyerukan jeda sementara pada sistem pelatihan yang melebihi GPT-4,” Gary Marcus, seorang ilmuwan dan suara terkemuka di AI, men-tweet pada hari Rabu.

Masalah yang mereka soroti adalah:

• A.I. pengembang terkunci dalam perlombaan untuk menggunakan ‘pikiran’ digital yang kuat yang bahkan pembuatnya tidak dapat mengerti, memprediksi, atau mengendalikannya.
• Gary Marcus berpendapat bahwa A.I. tidak perlu membentuk arah dunia kita.
• “A.I. pembangunan telah melihat ketidaktanggungjawaban perusahaan, adopsi yang meluas, kurangnya regulasi dan sejumlah besar hal yang tidak diketahui”.
• Elon Musk meminta jeda pada sistem yang lebih kuat dari GPT-4 untuk memperkenalkan protokol keselamatan.
• Surat pertama meminta campur tangan pemerintah untuk melakukan moratorium, jika tidak segera dihentikan.
• A.I. pengembangan hanya boleh dilanjutkan setelah kita mengetahui dampak positifnya, dan bahwa kita dapat mengelola risikonya Bisakah A.I. mengarah ke masa depan distopia?

Khawatir tentang memperluas kemampuan AI

Kemampuan sistem AI berkembang pesat karena ada lebih banyak data dan daya komputasi. Model besar tumbuh mampu mengungguli manusia di banyak bidang. Apa yang ditimbulkan oleh hal ini bagi masyarakat kita tidak dapat diprediksi oleh satu perusahaan pun, alasan surat itu.

“Pertimbangkan sebuah contoh: Anda dapat menggunakan model AI yang dimaksudkan untuk menemukan obat baru untuk menciptakan patogen,” tulis FIL di Twitter, mengumumkan surat tersebut.

“Model ini akan segera menghasilkan lebih dari 40 ribu patogen – termasuk VX, agen saraf paling mematikan yang pernah ada – kira-kira dalam enam jam.”

Lembaga itu merujuk pada konferensi keamanan internasional yang meneliti potensi eksploitasi teknologi AI untuk penemuan obat guna membuat senjata biologis dari awal. “Eksperimen pemikiran berevolusi menjadi bukti komputasi,” artikel jurnal Nature dikutip oleh FIL di utas tweet untuk menegaskan beratnya masalah ini.

Dengan AI, umat manusia dapat menantikan masa depan yang sejahtera. Kami sekarang mungkin mengalami “musim panas AI” di mana kami menuai keuntungan, merekayasa sistem ini untuk keuntungan semua orang, dan memberikan waktu kepada masyarakat untuk beradaptasi setelah berhasil mengembangkan sistem AI yang kuat, catat surat itu.

“Masyarakat telah menghentikan teknologi lain yang berpotensi menimbulkan bencana bagi masyarakat,” pungkas surat itu. “Kita bisa melakukannya di sini. Mari nikmati musim panas AI yang panjang, jangan terburu-buru tanpa persiapan hingga musim gugur.”