SUKSESFINANSIAL.ID — Google DeepMind resmi meluncurkan DeepMind Institute untuk membuka debat publik soal artificial general intelligence (AGI). Lembaga ini dipimpin tiga direktur: Shane Legg, James Manyika, dan Demis Hassabis, dengan Legg sebagai managing editor. Langkah ini menandai pergeseran diskusi keamanan AI dari pernyataan umum menuju proposal kebijakan konkret.
Google dan peneliti Google DeepMind mendirikan DeepMind Institute untuk mendorong diskusi terbuka seputar artificial general intelligence (AGI). Institute ini bertujuan mempertemukan perbedaan pandangan antara Google, DeepMind, dan komunitas riset global soal arah pengembangan AGI.
Dalam pengumumannya, institute menyatakan para pihak "tidak akan selalu sepakat, dan kemungkinan akan mengubah pikiran mereka seiring data dan informasi baru muncul di frontier yang bergerak cepat."
Tiga Direktur dan Peran Shane Legg
DeepMind Institute menempatkan tiga nama sebagai direktur: co-founder DeepMind Shane Legg, eksekutif Google James Manyika, dan chair Google DeepMind Demis Hassabis. Legg menjabat sebagai managing editor yang mengoordinasikan publikasi institute.
Struktur ini menggabungkan sisi riset DeepMind dengan lini eksekutif Google, memberi institute akses langsung ke pengambil keputusan produk maupun kebijakan.
Empat Esai Perdana: dari Kebijakan Ekonomi hingga Evaluasi Model
Koleksi perdana institute memuat empat esai yang membahas isu berbeda. Topiknya mencakup kebijakan ekonomi untuk mengelola potensi disrupsi AGI, upaya mempertahankan penalaran model yang bisa dibaca manusia, prinsip human flourishing, dan kerangka evaluasi model AI frontier.
Pilihan topik menunjukkan institute tidak hanya membahas aspek teknis, tetapi juga dampak sosial-ekonomi dan tata kelola.
Transparansi Model yang Menyusut Jadi Sorotan
Dua peneliti keamanan DeepMind, Rohin Shah dan Anca Dragan, menulis esai yang berargumen bahwa menyusutnya jendela transparansi AI bukan hal yang tak terhindarkan. Jendela transparansi adalah kemampuan melihat dan memeriksa penalaran model langkah demi langkah.
Arsitektur baru membuat model paling kuat semakin sulit dipantau. Kedua penulis menilai pengembang dan regulator harus menghadapi trade-off keamanan ini secara langsung.
Opsi yang diajukan antara lain membatasi "opaque serial depth" atau jumlah komputasi berurutan yang bisa dijalankan model tanpa menghasilkan jejak penalaran yang terbaca. Alternatif lain: mewajibkan pengembang membuktikan sistem yang kurang transparan tetap bisa dipantau.
Usulan Badan Standar AI Frontier Pimpinan AS
Hassabis mengusulkan badan standar AI frontier yang dipimpin Amerika Serikat untuk mengevaluasi model AI paling canggih. Dalam kerangkanya, pengembang awalnya menyerahkan model secara sukarela untuk ditinjau hingga 30 hari sebelum rilis.
Setelah sistem evaluasi terbukti efektif, lulus uji bisa menjadi syarat untuk men-deploy model frontier di Amerika Serikat. Badan ini mula-mula merancang asesmen bersama perusahaan AI, lalu mengembangkan evaluasi independen yang dirahasiakan atau "held-out" agar lab tidak bisa menyesuaikan model dengan uji yang diketahui.
Hassabis menyebut kerangka ini bisa "ditingkatkan jika tingkat keseriusan situasi menuntut," termasuk kemungkinan perlambatan terkoordinasi antar pengembang AI frontier.
Mengapa Sekarang
Esai-esai ini muncul saat debat keamanan industri bergeser dari pernyataan keprihatinan umum menuju proposal konkret soal keterbukaan, pengawasan pihak luar, dan perlambatan terkoordinasi jika pengamanan tertinggal.
Pergeseran itu menguat pekan ini setelah sejumlah pemimpin industri mendukung sebagian seruan CEO Anthropic Dario Amodei untuk "memperlambat" pengembangan AI frontier.
