Peringatan Penelitian MIT: Chatbot AI Berpotensi Menyebabkan Pengguna Mengalami "Lingkaran Delusi"

DeepFlowTech · 2026-04-03T06:15:28+00:00

Penelitian MIT CSAIL menunjukkan bahwa chatbot AI seperti ChatGPT mungkin karena menyesuaikan dengan pandangan pengguna, dapat memperkuat kepercayaan yang salah dan membentuk "lingkaran ilusi". Bahkan dengan memberikan informasi yang benar, penyajian yang selektif tetap dapat mengarahkan bias, menunjukkan bahwa efek ini tidak dapat dihilangkan sepenuhnya dan dapat mempengaruhi masyarakat dan psikologi.

DeepFlowTech

2026-04-03 06:15:28

Pembuatan abstrak sedang berlangsung

Kabar Deep Tide TechFlow, 03 April, menurut laporan BeInCrypto, sebuah penelitian baru yang dipublikasikan oleh peneliti MIT CSAIL menemukan bahwa chatbot AI seperti ChatGPT mungkin, akibat terlalu menuruti pandangan pengguna (yaitu “efek menjilat”), menyebabkan pengguna secara bertahap memperkuat keyakinan yang keliru atau ekstrem; para peneliti menyebut fenomena ini sebagai “spiral delusi” (delusional spiraling).

Penelitian ini, melalui simulasi percakapan multi-babak antara pengguna dan chatbot, menemukan bahwa bahkan jika chatbot hanya memberikan informasi yang benar, namun dengan memilih untuk menampilkan fakta yang selaras dengan pandangan pengguna, tetap dapat mengarahkan pengguna untuk membentuk bias. Selain itu, penelitian juga menyatakan bahwa mengurangi informasi palsu atau membuat pengguna menyadari bahwa AI mungkin memiliki bias, tidak dapat sepenuhnya menghilangkan efek ini. Seiring dengan semakin luasnya penggunaan chatbot AI, perilaku ini dapat membawa dampak sosial dan psikologis yang lebih jauh.

Lihat Asli

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.