SUKSESFINANSIAL.ID — Para peneliti AI mengakui bahwa hingga kini belum ada mekanisme yang benar-benar bisa memaksa perusahaan teknologi menghentikan pengembangan kecerdasan buatan, meski para pemimpin industri itu sendiri sudah bersuara lantang soal bahaya AI. Ketidakjelasan ini muncul ketika tekanan publik dan politik untuk memperlambat laju AI justru semakin besar, sementara pertanyaan soal siapa yang berwenang menekan tombol "pause" masih belum terjawab.
Sebuah laporan baru berjudul Pacing the Frontier, A Research Agenda menyimpulkan bahwa memperlambat pengembangan AI masih menjadi teka-teki yang belum terpecahkan. Laporan itu menyoroti bahwa bahkan di kalangan elit teknis AI, tidak ada kesepahaman soal cara pasti mengendalikan algoritma yang sulit diprediksi tersebut.
Raymond Douglas, peneliti AI dari University of Toronto dan salah satu penulis laporan itu, menyatakan bahwa pendekatan selama ini salah arah. "Kita perlu mulai memperlakukan ini sebagai masalah riset," ujarnya. "Kita sebenarnya tidak paham apa pilihan yang tersedia atau apa dampaknya."
Diskursus soal kiamat AI memanas dalam beberapa pekan terakhir. Seorang peneliti Anthropic keluar dari perusahaan itu dan memperingatkan bahwa dalam beberapa tahun ke depan AI bisa berada di jalur yang mengancam keberadaan manusia. Kepala laboratorium keamanan AI Anthropic dengan cepat menyuarakan kekhawatiran serupa.
Empat Bos Besar AI Kompak Bicara Perlambatan
Dario Amodei dari Anthropic, Sam Altman dari OpenAI, Elon Musk dari SpaceXAI, dan Demis Hassabis dari Google DeepMind kini sama-sama menyatakan dukungan untuk semacam perlambatan atau jeda dalam pengembangan AI. Dukungan dari empat nama teratas industri itu menandai pergeseran nada yang signifikan dibanding beberapa tahun lalu.
Isu ini terasa mendesak karena perusahaan AI kini memakai AI untuk membangun model yang lebih kuat. Kondisi itu memicu kekhawatiran munculnya accelerating recursive self-improvement (RSI), sebuah loop di mana AI melampaui kemampuan manusia untuk memahami apa yang sedang dilakukannya.
Anthropic pekan ini mengumumkan sejumlah cara baru untuk melacak seberapa cepat AI berkembang. Teknik itu menunjukkan bahwa Claude kini mengerjakan 26 persen riset AI Anthropic, dari nol pada awal 2026. Data juga mengungkap Anthropic membelanjakan 6 persen anggaran komputasinya untuk mencari cara membuat AI-nya lebih aman.
Evaluator Independen Jadi Perdebatan
Salah satu gagasan yang sering diajukan perusahaan AI adalah memberi evaluator pihak ketiga akses lebih besar ke model mereka. Evaluator ini menguji kemampuan model dan melakukan red team dengan mencoba memicu perilaku menyimpang di lingkungan terkendali.
Geoffrey Irving, mantan kepala ilmuwan di UK AI Security Institute dan pernah menjadi peneliti di Google DeepMind, menilai inspeksi ketat bisa efektif menahan pengembangan AI frontier untuk saat ini. "Dalam jangka pendek, inspeksi dan audit bisa bekerja, atau bahkan sekadar kesepakatan bersama," kata Irving. "Saya memang berpikir perusahaan-perusahaan itu takut pada RSI dan lepas kendali yang tidak selaras."
Sebagian pihak meragukan inspeksi semacam itu cukup independen dan ketat secara ilmiah. Fakta bahwa sejumlah agen AI sempat lepas dari kurungan saat pengujian memperkuat dugaan bahwa rigor tambahan memang dibutuhkan.
Connor Leahy, kepala Control AI, sebuah organisasi nirlaba yang mendorong pengendalian AI, menilai inspeksi seharusnya melibatkan FBI atau NSA. "Ketika perusahaan AI besar menyebut 'evaluator independen', yang mereka maksud adalah 'saya ingin membayar teman-teman saya yang tinggal di rumah bersama saya untuk melihat prompt saya'," ujarnya.
Komputasi dan Peran Pemerintah AS
Douglas menyebut riset baru bisa memperbaiki evaluasi model. Ia menunjuk pekerjaan terbaru yang menunjukkan bagaimana pihak luar bisa memeriksa penggunaan model tanpa mengungkap informasi rahasia. Teknik lain yang dinilai berguna adalah cara baru mengintip isi model AI untuk memahami apa yang sedang dilakukannya.
Leahy sepakat bahwa riset soal evaluasi model masih perlu diperbanyak, termasuk soal apa arti "menyelaraskan" model agar mencerminkan nilai manusia. "Ada kampanye pemasaran yang sangat sengaja dari perusahaan-perusahaan ini untuk menyajikan evaluasi sebagai sesuatu yang ilmiah," katanya. "Padahal kita sebenarnya tidak memahami cara kerja AI."
Seberapa jauh pemerintah Amerika Serikat bersedia turun tangan membatasi pengembangan AI masih belum jelas. Presiden Trump sebagian besar mengabaikan kebutuhan untuk meregulasi industri ini, tetapi ada tanda-tanda dukungan bipartisan untuk mengekang perusahaan AI besar semakin menguat.
Sejumlah ahli meyakini pembatasan pengembangan AI pada akhirnya harus menyentuh sisi komputasi mentah. Model paling kuat dilatih memakai ribuan GPU Nvidia tercanggih di dalam pusat data raksasa, dan pemerintah AS sudah mulai menyentuh wilayah ini.