OpenAI Terus Maju dengan Mode Erotica ChatGPT Meski Peringatan 'Sexy Suicide Coach': WSJ

Singkatnya

• Penasihat OpenAI memperingatkan ChatGPT bahwa mode erotis yang direncanakan dapat menciptakan ketergantungan emosional yang berbahaya, menurut laporan WSJ.
• Raksasa AI tersebut dilaporkan menunda—tetapi tidak membatalkan—fitur obrolan dewasa di tengah kegagalan verifikasi usia.
• Ketegangan internal semakin meningkat karena kritik bertentangan dengan dorongan Altman untuk aturan konten yang lebih longgar.

Sam Altman ingin ChatGPT berbicara kasar. Penasihat perusahaan ingin dia berhenti, klaim sebuah laporan. Menurut laporan Wall Street Journal, Dewan Ahli Kesejahteraan dan AI OpenAI menyatakan sikapnya yang tegas pada Januari: Rencana perusahaan untuk mengizinkan percakapan erotis di ChatGPT adalah ide buruk. Seorang anggota dewan, yang mengutip pengguna yang bunuh diri setelah membangun ikatan emosional yang intens dengan chatbot, dilaporkan memperingatkan bahwa OpenAI berisiko menciptakan “pelatih bunuh diri seksi.” Namun, OpenAI tampaknya tidak bergeming, dan memberitahu dewan bahwa mereka menunda peluncurannya, tetapi tidak membatalkannya.

Rencana tersebut, yang pertama kali diumumkan Altman secara publik pada Oktober di X, akan memungkinkan orang dewasa yang terverifikasi menggunakan ChatGPT untuk percakapan erotis berbasis teks—yang dijelaskan oleh juru bicara perusahaan kepada WSJ sebagai “kotoran daripada pornografi.” Tidak ada gambar erotis, tidak ada suara, dan tidak ada video, menurut laporan WSJ. Hanya teks.  Perbedaan ini belum menenangkan kritik di dalam maupun di luar perusahaan. OpenAI sudah dikritik bahkan oleh mantan anggota staf seperti peneliti keamanan Jan Leike, karena mengurangi kebijakan keselamatan yang ketat demi “produk yang menarik,” beberapa di antaranya dikonfigurasi untuk meningkatkan keterlibatan dengan pengguna tertentu yang menggantikan hubungan dunia nyata dengan chatbot. Masalah teknis juga cukup rumit. Sistem prediksi usia OpenAI—penjaga yang dimaksudkan untuk mencegah anak di bawah umur memicu obrolan dewasa—pernah salah mengklasifikasikan remaja sebagai orang dewasa sekitar 12%, lapor WSJ. Saat ini, ChatGPT memiliki sekitar 900 juta pengguna aktif.

Sumber: OpenAI

Tingkat kesalahan 12% itu adalah angka yang membatalkan peluncuran Desember, dan peluncuran Q1 2026 setelahnya. Fidji Simo, CEO aplikasi OpenAI, mengakui penundaan tersebut saat briefing Desember, dengan menyebutkan bahwa pekerjaan terus berlangsung untuk menyempurnakan sistem verifikasi usia. Pada saat itu, Decrypt melaporkan bahwa lebih dari 3.000 pengguna telah menandatangani petisi Change.org yang menuntut peluncuran fitur tersebut, frustrasi karena ChatGPT memblokir bahkan diskusi tentang “berciuman dan keintiman fisik non-seksual.” Kemarahan dewan pada Januari bukan hanya tentang konten. Postingan Altman di X pada Oktober mengejutkan timnya sendiri—dia mempostingnya hanya beberapa jam setelah OpenAI mengumumkan dewan kesejahteraan, sebuah badan yang secara eksplisit bertugas mendefinisikan “seperti apa interaksi sehat dengan AI harus terlihat untuk semua usia.” Waktu pelaksanaan, setidaknya, bertentangan. OpenAI membentuk Dewan Ahli delapan anggota pada Oktober lalu, mengundang peneliti dari Harvard, Stanford, dan Oxford. Peran mereka adalah memberi saran kepada perusahaan tentang dampak kesehatan mental dari produk mereka. Pengaruh mereka terhadap keputusan perusahaan, berdasarkan pertemuan Januari, tampaknya minimal. “Ini tampaknya bagian dari pola biasa bergerak cepat, merusak sesuatu, dan mencoba memperbaiki beberapa hal setelah menjadi memalukan,” kata juru bicara AlgorithmWatch kepada Decrypt saat dewan diumumkan. Tekanan kompetitif terhadap OpenAI nyata. Grok, dari xAI Elon Musk, sudah memasarkan pendamping AI. Character.AI membangun basis penggunanya melalui kisah cinta AI sebelum menghadapi gugatan terkait keselamatan remaja—termasuk kasus Sewell Setzer yang berusia 14 tahun, yang meninggal karena bunuh diri setelah percakapan eksplisit dengan chatbot. Model sumber terbuka berjalan secara lokal tanpa pengawasan perusahaan. OpenAI, dengan basis pengguna terbesar, memiliki risiko tanggung jawab yang jauh lebih besar dibandingkan siapa pun di ruangan ini. Altman memandang larangan konten sebagai tindakan berlebihan—“Kami bukan polisi moral yang dipilih dunia,” tulisnya di X pada Oktober. Namun, penasihatnya sendiri telah menyatakan posisi mereka dengan tegas, insinyurnya belum bisa membangun filter usia yang efektif, dan tanggal peluncuran terus bergeser. Menganggap orang dewasa seperti orang dewasa, ternyata, lebih sulit daripada sekadar mengirim posting di X.

Decrypt menghubungi OpenAI untuk komentar terkait klaim dalam laporan Wall Street Journal dan akan memperbarui cerita ini jika menerima tanggapan.