DI YOGYAKARTA — Anthropic, perusahaan yang berada di garis depan perlombaan kecerdasan buatan (AI), baru-baru ini mengeluarkan pernyataan yang cukup mengejutkan. Dalam sebuah unggahan blog resmi, mereka menyerukan perlambatan global atau penghentian sementara (pause) pengembangan AI. Alasannya, tren saat ini menunjukkan bahwa sistem AI bisa segera mencapai titik di mana mereka mampu mengembangkan penerus mereka sendiri—sebuah kemampuan yang disebut 'self-improving AI'. Perusahaan yang dikabarkan akan segera melantai di bursa saham (IPO) tahun ini ini menilai risiko kehilangan kendali atas sistem semacam itu terlalu besar untuk diabaikan.
Anthropic tidak menyangkal potensi positif dari teknologi ini. Dalam blognya, mereka mengakui bahwa AI yang bisa mengembangkan dirinya sendiri dapat "membawa kebaikan besar bagi dunia," terutama di bidang sains dan perawatan kesehatan. Namun, sisi gelapnya adalah potensi "meningkatnya risiko manusia kehilangan kendali atas sistem AI." Kekhawatiran ini mengingatkan pada skenario fiksi ilmiah seperti Skynet, di mana mesin menjadi otonom dan di luar kendali penciptanya.
"Hal ini bisa terjadi lebih cepat dari yang dipersiapkan oleh sebagian besar institusi," tulis Anthropic dalam pernyataannya. Mereka menekankan bahwa jeda ini diperlukan untuk memberi waktu bagi struktur sosial masyarakat dan penelitian keselarasan (alignment research) untuk mengejar ketertinggalan dari laju teknologi.
Meskipun usulan ini terdengar mulia, tidak sedikit pihak yang meragukan motif Anthropic. Seperti yang dilaporkan oleh The Wall Street Journal, para kritikus menilai peringatan ini hanyalah taktik pemasaran. Tujuannya diduga untuk membuat Anthropic terlihat sebagai perusahaan AI yang paling etis di antara para pesaingnya, atau bahkan untuk mencitrakan produk mereka sebagai yang terbaik dan paling aman.
Kritik ini menguat dengan contoh perilisan model AI keamanan siber mereka, Mythos. Anthropic hanya merilis Mythos ke sekelompok mitra terbatas dengan alasan potensi kerusakan yang bisa ditimbulkan jika jatuh ke tangan yang salah. Namun, publik menilai ini sebagai cara untuk menaikkan hype produk atau menutupi niat Anthropic yang hanya ingin menjualnya ke perusahaan-perusahaan besar.
Anthropic menyadari bahwa usulan ini hanya akan berhasil jika semua perusahaan AI di dunia bersedia berkomitmen. Mereka menekankan perlunya mekanisme verifikasi yang ketat. Tanpa itu, ada risiko beberapa pihak diam-diam terus mengembangkan teknologi mereka dan melompat lebih maju dari yang lain.
"Perlambatan atau penghentian yang berarti membutuhkan banyak laboratorium yang memiliki sumber daya memadai di atau dekat perbatasan teknologi, di berbagai negara, untuk setuju berhenti dalam kondisi yang sama," tulis Anthropic. "Ini juga membutuhkan kemampuan setiap pihak untuk memverifikasi bahwa yang lain benar-benar telah berhenti."
Perusahaan ini mengakui bahwa mencapai konsensus global bukanlah hal yang mustahil, dengan mencontohkan perjanjian senjata nuklir. Namun, mereka juga mengakui bahwa perjanjian semacam itu membutuhkan waktu puluhan tahun untuk terbentuk—waktu yang tidak kita miliki mengingat kecepatan pengembangan AI saat ini. Sebagai langkah awal, Anthropic berencana mengadakan pembicaraan dengan para pembuat kebijakan, peneliti, dan perusahaan AI lain dalam beberapa bulan ke depan, dan akan mempublikasikan hasil diskusi tersebut.