Bagaimana jika AI generatif terbukti tidak berguna?

Penulis: Gary Marcus, Penyusun: Heart of the Metaverse (MetaverseHub)

Terlepas dari fakta bahwa LK-99, yang dijuluki sebagai superkonduktor suhu ruangan, mungkin hanya iseng-iseng, saya belum pernah melihat sesuatu yang lebih menarik daripada kecerdasan buatan generatif. Banyak perusahaan bernilai miliaran, dan banyak berita; semua orang dari Silicon Valley hingga Washington hingga Jenewa membicarakannya.

Namun kenyataannya, pendapatan saat ini belum sesuai harapan, bahkan mungkin tidak akan pernah tercapai.

Penilaian ini memproyeksikan pasar triliun dolar, tetapi pendapatan aktual dari AI generatif saat ini dikabarkan mencapai ratusan juta dolar. Meskipun pendapatan ini bisa tumbuh 1000x lipat, ini murni spekulasi. Kita seharusnya tidak hanya menganggap itu akan terjadi.

Sejauh ini, sebagian besar pendapatan tampaknya berasal dari menulis kode semi-otomatis (programmer suka menggunakan alat pembangkit sebagai asisten), dan menulis teks.

Saya pikir pemrogram akan senang menggunakan alat bantu AI Generatif; fitur pelengkapan otomatisnya sangat membantu pekerjaan mereka, dan mereka dilatih untuk menemukan dan memperbaiki kesalahan yang tidak biasa. Sarjana akan terus menggunakan AI generatif, tetapi kantong mereka akan sempit (dan kemungkinan besar mereka akan beralih ke pesaing sumber terbuka).

Pelanggan lain yang membayar potensial dapat dengan cepat kehilangan minat. Kapitalis ventura berpengaruh Benedict Evans membahas masalah ini dalam serangkaian artikel di “X” (sebelumnya Twitter) pagi ini:

Teman saya yang mencoba menggunakan ChatGPT untuk menjawab pencarian untuk membantu penelitian akademik menghadapi kekecewaan serupa. Seorang pengacara ditegur oleh hakim karena menggunakan ChatGPT dalam penelitian hukum dan berjanji secara tertulis untuk tidak menggunakannya tanpa pengawasan di masa mendatang. Beberapa minggu lalu, sebuah laporan berita mengatakan bahwa penggunaan GPT mungkin akan menurun.

Jika pengalaman Evans adalah tanda peringatan, seluruh bidang AI generatif, dengan penilaian saat ini, dapat segera berakhir. Pemrogram akan terus menggunakannya, begitu pula pemasar yang perlu menulis banyak copywriting untuk mempromosikan produk mereka dan meningkatkan peringkat mesin pencari mereka. Tapi apakah itu coding atau kecepatan dan copywriting biasa-biasa saja, itu masih jauh dari cukup untuk mempertahankan impian valuasi saat ini.

Bahkan OpenAI sedang berjuang untuk mencapai valuasi $29 miliar; startup yang bersaing dengan valuasi serendah miliaran kemungkinan besar akhirnya gulung tikar. Microsoft, yang hampir setengah harga sahamnya tahun ini, mungkin sebagian besar karena harapan kecerdasan buatan, bisa jatuh; NVIDIA, yang telah melonjak lebih tinggi lagi, mungkin juga mundur.

Baru-baru ini saya membahas masalah ini dengan Roger McNamee, pelopor awal dalam ruang investasi perangkat lunak. Mungkin satu-satunya kasus penggunaan ekonomis yang benar-benar menarik bagi kami adalah penelusuran. Misalnya, menggunakan Bing yang diberdayakan oleh ChatGPT alih-alih Google Penelusuran, tetapi masalah teknis yang terkait sangat besar; kami tidak punya alasan untuk berpikir bahwa masalah “ilusi” akan teratasi dalam waktu dekat. Jika tidak diatasi, gelembung tersebut dapat dengan mudah pecah.

Tapi bukan hanya seluruh ekonomi AI generatif yang membuat saya khawatir saat ini, lebih berdasarkan ekspektasi daripada penggunaan komersial yang sebenarnya, potensi koreksi besar-besaran yang menyayat hati di masa depan, dan fakta bahwa kita mengubah seluruh dunia dan negara menjadi Kebijakan dibangun berdasarkan premis bahwa generasi AI akan mengubah dunia, yang jika dipikir-pikir mungkin tidak realistis.

Di tingkat nasional, langkah-langkah pengaturan untuk melindungi konsumen (misalnya seputar privasi, mengurangi bias, mewajibkan transparansi data, memerangi disinformasi, dll.) mungkin tertunda karena pandangan yang bertentangan bahwa pengembangan AI generatif harus dimajukan sesegera mungkin. Kami mungkin tidak memiliki perlindungan konsumen yang kami butuhkan karena kami mencoba membiakkan sesuatu yang mungkin tidak tumbuh seperti yang diharapkan.

Menurut pendapat saya, hampir setiap orang melakukan kesalahan mendasar, yaitu menganggap kecerdasan buatan generatif setara dengan AGI (kecerdasan umum buatan, kecerdasan dan kewaspadaan sama atau lebih tinggi dari manusia).

Mungkin orang-orang di setiap industri ingin Anda percaya bahwa AGI sudah dekat. Ini memicu narasi mereka tentang keniscayaan dan mendorong harga saham dan penilaian awal mereka. CEO Antropik Dario Amodei baru-baru ini memperkirakan bahwa kami akan mencapai AGI dalam 2-3 tahun. Demis Hassabis, CEO Google DeepMind, juga membuat prediksi untuk AGI jangka pendek.

Saya sangat meragukannya. Kita menghadapi bukan hanya satu, tetapi banyak masalah serius yang belum terpecahkan di jantung AI generatif, mulai dari kerentanan mereka terhadap halusinasi dan disinformasi, hingga ketidakmampuan mereka untuk berkomunikasi secara andal dengan eksternal Dari pemasangan alat yang andal hingga ketidakstabilan dari bulan ke bulan ( yang membuatnya tidak praktis untuk aplikasi teknik dalam sistem besar).

Kenyataannya adalah bahwa kita tidak memiliki alasan konkrit untuk berpikir solusi untuk masalah ini sudah dekat, selain optimisme teknologi murni. Menskalakan sistem dengan meningkatkan ukurannya membantu dalam beberapa hal tetapi tidak dalam hal lain; kami masih tidak dapat menjamin bahwa sistem tertentu akan jujur, tidak berbahaya, atau bermanfaat daripada menyanjung, tidak jujur, berbahaya, atau bias.

Peneliti AI telah mengerjakan pertanyaan-pertanyaan ini selama bertahun-tahun. Tidaklah realistis untuk membayangkan bahwa masalah yang menantang ini tiba-tiba akan terpecahkan. Selama 22 tahun, saya telah mengeluh tentang bug halusinasi; orang-orang telah berjanji bahwa solusi akan datang, tetapi tidak pernah terwujud. Karena teknologi kami saat ini didasarkan pada pelengkapan otomatis, bukan berdasarkan fakta.

Untuk beberapa waktu, kekhawatiran seperti itu diabaikan; tetapi baru-baru ini beberapa pemimpin teknologi tampaknya akhirnya mengerti. Beberapa hari yang lalu, majalah Fortune menerbitkan laporan seperti itu:

AI generatif mungkin tidak akan mampu menghasilkan triliunan dolar setahun jika masalah halusinasi tidak diselesaikan. Jika itu mungkin tidak menghasilkan output triliunan dolar, itu mungkin tidak memiliki dampak yang diharapkan. Jika tidak memiliki efek seperti itu, mungkin kita seharusnya tidak membangun dunia kita di atas premis tersebut.