BANTEN — Sebanyak 22 peneliti kecerdasan buatan menerbitkan riset di jurnal Cambridge Programme on AI Science & Policy yang mendesak pemerintah bertindak sebelum otomatisasi penelitian dan pengembangan memicu ledakan kecerdasan. Riset ini melibatkan Yoshua Bengio, Geoffrey Hinton, Jack Clark dari Anthropic, dan Jakub Pachocki dari OpenAI. Para peneliti menilai percepatan kemajuan AI oleh AI itu sendiri bisa memadatkan progres bertahun-tahun menjadi hitungan bulan.
Riset berjudul "Bagaimana jika otomatisasi R&D AI memicu ledakan kecerdasan?" menyoroti proses recursive self-improvement (RSI), yakni kemampuan sistem AI memperbaiki dirinya sendiri tanpa campur tangan manusia. Dalam skenario itu, satu pengembang AI disebut bisa menjalankan tenaga kerja yang setara dengan jutaan peneliti manusia terbaik.
Kekhawatiran utamanya bukan soal kecepatan semata. Para penulis melihat risiko hilangnya kendali manusia atas sistem AI, melemahnya pengawasan kekuasaan antarnegara dan antarkorporasi, hingga ancaman biologis dan siber yang sulit dibendung.
Tiga Prioritas Kebijakan yang Direkomendasikan
Para peneliti merumuskan tiga langkah yang mereka nilai mendesak bagi pembuat kebijakan. Pertama, mewajibkan laporan kemajuan yang transparan soal penelitian dan pengembangan AI. Kedua, mencari cara membatasi laju pengembangan AI yang terlalu pesat. Ketiga, menyiapkan strategi adaptasi menghadapi ledakan kecerdasan buatan.
Mereka juga mendorong kerja sama penghentian proyek dengan pusat data, isolasi sistem otomatis, serta penyusunan rencana tanggap darurat. Semua ini diarahkan agar pemerintah tidak bereaksi setelah teknologi bergerak di luar kendali.
Anthropic dan OpenAI Sudah Minta Audit Independen
Dua laboratorium AI terkemuka, Anthropic dan OpenAI, sepakat meminta evaluator atau auditor independen untuk menilai model mereka. Langkah itu diambil setelah keduanya memperingatkan bahwa pengembangan AI telah melampaui batasan aman.
Anthropic menyatakan AI kini menghasilkan 80 persen kode programnya sendiri. Sementara OpenAI memakai agen AI otonom di sejumlah bidang, termasuk pelatihan model baru.
"Ledakan kecerdasan buatan bisa menjadi perkembangan teknologi paling penting dalam sejarah manusia, memadatkan kemajuan bertahun-tahun menjadi beberapa bulan atau kurang, mengancam kendali manusia atas sistem AI, dan sangat mengikis pengawasan kekuasaan di dalam dan antar negara, perusahaan, dan cabang pemerintahan," tulis para peneliti dalam studi tersebut.
Peluang Positif dan Ambang Batas yang Belum Tercapai
Ledakan kecerdasan tidak hanya soal risiko. Para peneliti menyebut dampak positifnya bisa besar, misalnya di bidang medis dan teknologi lain. Sistem AI juga berpotensi mempercepat proses mitigasi risiko dan menjaga arah kemajuan teknologi.
Mereka menegaskan dampak-dampak tersebut belum pasti terjadi. Terobosan teknologi pun bisa butuh waktu sebelum benar-benar diimplementasikan.
"Peningkatan produktivitas dari otomatisasi R&D AI belum mencapai ambang batas yang dibutuhkan untuk memicu ledakan kecerdasan, tetapi peningkatan dari sistem yang lebih baru kemungkinan mendekati ambang batas tersebut," tulis para peneliti.
Riset ini menjadi sinyal bagi pembuat kebijakan di berbagai negara, termasuk Indonesia, bahwa tata kelola AI perlu disiapkan sebelum laju otomatisasi R&D melampaui kemampuan pengawasan manusia.
