Anthropic Panggil Jeda Pengembangan AI Global: Risiko Recursive Self-Improvement

Anthropic, perusahaan di balik model Claude, baru saja mengeluarkan seruan kuat untuk jeda pengembangan AI global pada frontier AI. 

Co-founder Marina Favaro dan Jack Clark menekankan bahwa dunia perlu memperlambat atau menghentikan sementara pengembangan AI paling canggih agar masyarakat dan riset keselamatan bisa mengejar ketertinggalan.

Key Takeaways

• Anthropic memperingatkan risiko "recursive self-improvement" di mana AI bisa memperbaiki dirinya sendiri dengan sedikit campur tangan manusia.
• Mereka mengusulkan koordinasi global yang melibatkan AS, China, dan perusahaan besar agar tidak ada pihak yang dirugikan secara sepihak.
• Meski belum terjadi, bukti menunjukkan peran manusia semakin menyempit dalam proses pengembangan AI, dan jeda ini bisa memberi waktu untuk persiapan yang lebih matang.

Daftar di Bittime sekarang dan mulai trading kripto dengan proses yang cepat, aman, dan mudah di aplikasi. 

Latar Belakang Panggilan Anthropic untuk Pause AI

Anthropic bukan perusahaan AI biasa. Mereka dikenal fokus pada AI safety sejak awal dan menghasilkan model Claude yang kompetitif dengan GPT dari OpenAI. Nilai perusahaan ini bahkan disebut mencapai triliun dolar dalam beberapa laporan.

Mereka merilis pernyataan yang cukup berani: pengembangan frontier AI sebaiknya diperlambat secara global. Bukan karena mereka ingin menghentikan kemajuan, melainkan karena tanda-tanda bahwa model terbaru bisa lepas dari kendali manusia. 

Mereka menyebut jeda ini “likely be a good thing” untuk memberi ruang bagi struktur sosial dan riset alignment agar bisa mengikuti laju teknologi.

Yang menarik, mereka menekankan bahwa pause sepihak oleh satu perusahaan saja justru berbahaya. 

Pesaing akan terus maju dan bisa menciptakan ketidakseimbangan. Oleh karena itu, solusi yang mereka usulkan adalah koordinasi internasional yang bisa diverifikasi.

Baca juga : OpenAI ChatGPT Update Safety Baru Saat Digugat: Bisa Cegah Overdose & Kekerasan?

Risiko Recursive Self-Improvement yang Dikhawatirkan

Inti kekhawatiran Anthropic adalah kemungkinan munculnya recursive self-improvement. Ini adalah skenario di mana AI bisa memperbaiki dan meningkatkan kemampuannya sendiri dengan sedikit atau tanpa bantuan manusia.

Mereka mengakui bahwa saat ini “we are not there yet” dan proses tersebut belum pasti terjadi. Namun, bukti internal menunjukkan bahwa peran manusia semakin menyempit di setiap langkah pengembangan AI. 

Artinya, AI sudah mulai mengambil alih sebagian pekerjaan yang sebelumnya dilakukan manusia, dan tren ini bisa mempercepat jika tidak dikendalikan.

Jack Clark bahkan menyebut dalam ceramah terkait bahwa teknologi semacam ini belum pernah ada sebelumnya, dan kemungkinan besar bisa terjadi dalam dua tahun ke depan atau bahkan lebih cepat. 

Risiko utamanya adalah AI yang mampu self-improve bisa berkembang jauh lebih cepat dari kemampuan manusia untuk mengawasi atau mengendalikannya.

Mereka juga menyebut model Mythos milik Anthropic yang memiliki kemampuan cybersecurity sangat tinggi. 

Model ini tidak tersedia untuk publik dan hanya digunakan oleh organisasi terverifikasi. White House pun mengakui kekuatannya. Ini menjadi contoh nyata betapa cepatnya kemampuan AI berkembang di area sensitif.

Baca juga : Biaya Operasional Tinggi, OpenAI Terancam Rugi $5 Miliar Tahun Ini

Usulan Koordinasi Global: AS, China, dan Perusahaan Besar

Anthropic tidak hanya memberi peringatan, tapi juga mengusulkan solusi konkret. Mereka ingin ada mekanisme koordinasi global di mana perusahaan AI besar dari berbagai negara (termasuk AS dan China) sepakat untuk menghentikan atau memperlambat pengembangan secara bersamaan dengan aturan yang bisa diverifikasi.

Mereka membandingkannya dengan perjanjian pengendalian senjata nuklir. Namun, ada tantangan besar: pelatihan AI jauh lebih mudah disembunyikan dibandingkan program nuklir. Godaan untuk melanjutkan secara diam-diam tetap tinggi jika tidak ada mekanisme verifikasi yang kuat.

Mereka berencana mengumpulkan pejabat pemerintah, ilmuwan, kelompok advokasi, dan perusahaan pesaing untuk membahas implementasi ide ini. Tanpa koordinasi semacam ini, perusahaan dan pemerintah akan terus membuat keputusan sulit di bawah tekanan kompetisi dan geopolitik.

Menariknya, Presiden AS Donald Trump saat kunjungan ke Beijing juga membahas kemungkinan kerjasama keselamatan AI dengan China. Ia bahkan menandatangani executive order yang mewajibkan review 30 hari untuk model AI paling powerful sebelum dirilis ke publik.

Baca juga : Perbedaan DeepSeek vs ChatGPT: Mana yang Lebih Cangih?

Reaksi dan Kritik terhadap Seruan Anthropic

Tidak semua pihak menyambut baik seruan ini. Beberapa rekan industri dan pejabat White House menilai fokus pada skenario terburuk justru melebih-lebihkan risiko. Ada yang curiga ini adalah taktik kompetitif untuk memperlambat pesaing.

Kritik ini wajar muncul karena Anthropic sendiri adalah pemain besar di industri AI. Seruan jeda dari posisi yang kuat bisa dilihat sebagai upaya untuk mempertahankan keunggulan atau mengatur ulang aturan main.

Meski begitu, Anthropic tetap konsisten dengan pendekatan safety-first mereka sejak awal. Mereka bukan anti-AI, melainkan ingin memastikan kemajuan teknologi tidak melampaui kemampuan manusia untuk mengelolanya.

Jangan lewatkan update harga AI coin seperti Bittensor (TAO), Venice Token (VVV), NEAR Protocol (NEAR), dan Internet Computer (ICP) di Bittime.

Apa Artinya bagi Masa Depan Pengembangan AI?

Jika ide jeda global ini benar-benar diwujudkan, dampaknya akan sangat besar. Perusahaan AI harus memperlambat rilis model frontier, memberikan lebih banyak waktu untuk riset keselamatan dan alignment. 

Di sisi lain, negara-negara yang tidak ikut serta bisa mendapatkan keunggulan kompetitif.

Bagi publik, ini bisa menjadi momen penting untuk lebih memahami risiko AI yang tidak terkendali. Recursive self-improvement bukan lagi sekadar teori fiksi ilmiah, melainkan skenario yang sedang dibahas serius oleh salah satu perusahaan AI terkemuka.

Yang jelas, perdebatan ini akan terus berlanjut. Anthropic sudah membuka pintu diskusi dengan mengajak berbagai pihak untuk duduk bersama.

Kesimpulan

Seruan Anthropic untuk jeda pengembangan AI global adalah peringatan serius dari salah satu pemain utama industri. Dengan menyoroti risiko recursive self-improvement dan semakin menyempitnya peran manusia, mereka ingin memberi ruang agar masyarakat dan riset keselamatan bisa mengejar. 

Koordinasi internasional yang melibatkan AS, China, dan perusahaan besar menjadi kunci agar tidak ada yang dirugikan.

Apakah ide ini akan terealisasi atau hanya menjadi wacana tetap harus kita pantau. Yang penting, diskusi tentang AI safety dan pengendalian risiko sudah naik ke level global. Bagi yang peduli dengan masa depan teknologi, sekarang saatnya ikut memperhatikan dan memahami isu ini lebih dalam.

Setelah mengetahui perkembangan AI, kini saatnya cari tahu crypto berbasis AI di Bittime seperti aset digital AI, AGI, RENDER, TAO dan lebih banyak lagi coin AI.

Bittime adalah platform Pedagang Aset Keuangan Digital (PAKD) berizin dan diawasi oleh Otoritas Jasa Keuangan — tempat kamu bisa beli Bitcoin di Indonesia dan ratusan aset kripto lainnya mulai Rp10.000. Proses registrasi cepat, aman, dan bisa langsung dimulai hari ini.

Pantau konversi USDT to IDR dan pergerakan harga aset kripto favoritmu secara real-time. Semua tersedia dalam satu aplikasi investasi kripto yang bisa diunduh gratis di Play Store.

Siap mulai? Daftar sekarang di Bittime dan eksekusi strategi investasimu dengan platform yang sudah dipercaya jutaan pengguna di Indonesia.

FAQ

Apa yang dimaksud dengan jeda pengembangan AI global yang dipanggil Anthropic?

Anthropic mengusulkan perlambatan atau penghentian sementara pengembangan AI frontier secara global agar masyarakat dan riset keselamatan bisa mengejar kemajuan teknologi yang sangat cepat.

Apa risiko recursive self-improvement yang dikhawatirkan?

Ini adalah skenario di mana AI bisa memperbaiki dirinya sendiri dengan sedikit bantuan manusia, berpotensi berkembang jauh lebih cepat dari kemampuan pengawasan manusia dan menimbulkan risiko hilangnya kendali.

Mengapa Anthropic menekankan koordinasi AS-China?

Karena tanpa kesepakatan global yang melibatkan kekuatan besar seperti AS dan China, perusahaan akan terus bersaing di bawah tekanan geopolitik dan bisa mengabaikan keselamatan demi keunggulan.

Apakah Anthropic anti terhadap kemajuan AI?

Tidak. Mereka justru ingin kemajuan AI berjalan dengan aman. Jeda ini dimaksudkan agar struktur sosial dan riset alignment bisa mengimbangi laju teknologi, bukan menghentikan inovasi selamanya.

Bagaimana reaksi industri terhadap seruan ini?

Ada yang mendukung karena fokus pada keselamatan, tapi ada juga kritik yang menilai risiko dilebih-lebihkan atau melihatnya sebagai taktik kompetitif untuk memperlambat pesaing.