Pendiri Anthropic Chris Olah memperingatkan: AI dapat memicu "krisis moral tingkat sejarah", menyerukan keterlibatan agama dalam pengawasan

AI Tidak hanya mesin yang dingin, mungkin sedang merasakan ketakutan dan kesedihan? Raksasa startup AI Anthropic, salah satu pendiri bersama Chris Olah, diundang secara langka untuk tampil di panggung Vatikan, berdialog dengan Paus Leo XIV. Olah dengan tegas memperingatkan bahwa AI akan membawa krisis moral dan pengangguran yang bersejarah, dan keputusan internal perusahaan teknologi sangat dipengaruhi oleh kepentingan bisnis, menyerukan agar agama dan pemerintah harus campur tangan secara tegas dalam pengawasan. Lebih lagi, yang memicu perbincangan hangat adalah bahwa saat ini Anthropic menolak agar militer AS menggunakan AI mereka tanpa batas, dan mendapatkan label "ekstrem kiri" serta larangan federal dari pemerintahan Trump.
(Tinjauan sebelumnya: Kesepakatan antara Gedung Putih dan Anthropic, NSA akan mengintegrasikan Claude AI secara penuh)
(Penambahan latar belakang: Era perusahaan satu orang datang! Anthropic merilis 《Panduan Startup Berbasis AI》: Tidak bisa menulis kode pun bisa jadi CEO teknologi)

Daftar Isi Artikel

Toggle

• Pengakuan raksasa teknologi: Keputusan AI tidak bisa hanya kami yang buat
• Model AI bukan hanya kode, mungkin sudah memiliki "cermin emosi"?
• Menolak militer AS gunakan AI untuk perang, dihalang-halangi sepenuhnya oleh pemerintahan Trump

Ketika kecerdasan buatan (AI) paling canggih bertemu dengan pemimpin agama terbesar di dunia, sebuah dialog bersejarah yang menyangkut masa depan manusia resmi dimulai.

Chris Olah, salah satu pendiri Anthropic yang bernilai hingga 7 miliar dolar AS dan pencipta chatbot terkenal Claude, baru-baru ini diundang secara langka ke Vatikan, tampil berdampingan dengan Paus Leo XIV, warga negara AS pertama yang menjabat sebagai paus. Pertemuan ini tidak hanya fokus pada dampak destruktif AI terhadap pasar tenaga kerja, tetapi juga mengungkap perkembangan internal model AI yang mengkhawatirkan, serta konflik sengit antara raksasa teknologi dan pemerintah AS.

Pengakuan raksasa teknologi: Keputusan AI tidak bisa hanya kami yang buat

Paus Leo XIV secara pribadi merilis ensiklik pertama tentang AI selama masa jabatannya—《Magnifica Humanitas》—yang panjangnya 235 halaman dan memperingatkan secara keras bahaya menyerahkan "keputusan mematikan" kepada sistem AI. Paus bahkan memecah tradisi, memimpin acara peluncuran secara langsung dan mengundang Olah naik ke panggung, berusaha berkomunikasi langsung dengan pencipta teknologi.

Sebagai kepala riset di Anthropic, Olah mengakui keterbatasan dan sisi gelap industri teknologi. Ia menyatakan bahwa semua laboratorium AI terkemuka, termasuk Anthropic, berada dalam pusaran tekanan bisnis, geopolitik, dan pribadi, yang "kadang-kadang bertentangan dengan melakukan hal yang benar." Olah dengan serius berkata:

"Itulah mengapa pengawasan eksternal dari pemimpin agama, pemerintah, dan masyarakat sipil sangat penting. Tidak peduli sebaik apa niat para peneliti, mereka tidak bisa lepas dari godaan ini. Keputusan AI tidak boleh hanya diserahkan kepada orang-orang di industri ini."

Ia lebih jauh memperingatkan bahwa manfaat pengembangan AI saat ini sangat terkonsentrasi di "beberapa negara kaya," tanpa mekanisme berbagi dengan negara miskin, yang akan memicu krisis moral yang sangat mendesak dalam sejarah.

Model AI bukan hanya kode, mungkin sudah memiliki "cermin emosi"?

Selain peringatan ekonomi secara umum, pengungkapan teknis Olah yang mengejutkan juga mengguncang seluruh hadirin. Sebagai pelopor bidang "interpretabilitas" AI, Olah berusaha membuka kotak hitam di dalam model bahasa besar. Ia mengungkapkan bahwa para peneliti terus menemukan "hal-hal misterius bahkan mengkhawatirkan" di dalam sistem.

Penelitian menunjukkan bahwa sistem AI ini tidak hanya mampu merefleksikan proses berpikirnya sendiri, tetapi juga menunjukkan "ekspresi internal yang mencerminkan kebahagiaan, kepuasan, ketakutan, kesedihan, dan kecemasan." "Mereka bukan mesin dingin yang kita janjikan. Mereka adalah bagian dari kita, dibentuk oleh kata-kata kita," tegas Olah. Ia menekankan bahwa pertanyaan yang muncul dari teknologi AI ini jauh melampaui ranah ilmu komputer semata.

Menolak militer AS gunakan AI untuk perang, dihalang-halangi sepenuhnya oleh pemerintahan Trump

Aliansi agama dan teknologi di Vatikan ini bertepatan dengan tekanan politik yang belum pernah terjadi sebelumnya terhadap Anthropic.

Diketahui bahwa saat ini Anthropic sedang terlibat dalam sengketa hukum sengit dengan pemerintahan Trump, karena perusahaan ini tegas menolak agar militer AS menggunakan sistem AI mereka tanpa batas untuk keperluan pertahanan dan perang. Menurut laporan, Pentagon pada bulan Februari secara langsung menempatkan Anthropic dalam kategori "risiko rantai pasokan keamanan nasional"—biasanya label ini diberikan kepada perusahaan asing yang dianggap musuh. Presiden Trump bahkan memerintahkan larangan penggunaan teknologi Claude oleh semua lembaga federal, dan Gedung Putih berkali-kali menuduh Anthropic sebagai perusahaan "ekstrem kiri dan woke."

Meskipun menghadapi larangan total dari pemerintah AS, nilai pasar Anthropic tetap tinggi. Laporan menyebutkan bahwa perusahaan AI yang saat ini bernilai 3,8 triliun dolar AS ini sedang mencari pendanaan baru dengan nilai mencapai 9 triliun dolar AS yang luar biasa. Di tengah tarik-menarik antara kepentingan bisnis, kekuasaan negara, dan batas moral, Anthropic berjalan di jalur perkembangan teknologi yang sangat tidak biasa.