Mesin baru di era AI... "Rekayasa Konteks" menjadi inti dari strategi perusahaan

Seiring dengan perusahaan mulai mengadopsi “rekayasa konteks” sebagai strategi inti untuk meningkatkan keandalan dan akurasi sistem AI, teknologi ini tengah bangkit menjadi elemen baru yang wajib dimiliki di era AI. Pada konferensi AWS re:Invent 2025, Chief Product Officer Elastic, Ken Exner, menekankan bahwa model bahasa besar harus dirancang untuk “beroperasi pada waktu yang tepat, dengan data yang sesuai, dalam lingkup yang relevan” agar dapat menghasilkan hasil yang andal.

Exner menyatakan: “Saat ini banyak perusahaan yang menghadapi keterbatasan dari sekadar prompt engineering saat mengimplementasikan agen AI. Untuk berhasil membangun aplikasi AI, pekerjaan menyediakan konteks yang tepat secara berkelanjutan kepada LLM menjadi sangat penting.” Ia menyebut hal ini sebagai “rekayasa konteks” dan memprediksi bahwa konsep ini akan menjadi inti dari pengembangan AI di masa depan.

Dengan meningkatnya kemandirian model AI dalam membuat keputusan dan bertindak, Exner menyoroti perlunya mewaspadai jawaban salah atau ketidakpastian yang dapat muncul akibat kurangnya konteks. Untuk itu, berbagai metode pendukung seperti teknologi retrieval, reasoning berbasis alat, dan sistem memori sedang diperkenalkan. Ia menjelaskan, “LLM pada dasarnya adalah sistem yang memprediksi kata berikutnya, dan hanya dengan melakukan proses ini dalam rentang data yang tepat, barulah hasil yang lebih konsisten dan andal bisa diperoleh.”

Elastic mengembangkan solusi “Elastic Agent Builder” untuk mengatasi tantangan teknis ini. Alat ini mendukung pembangunan aplikasi agen AI yang canggih dengan menggabungkan prompt yang dikustomisasi pengguna serta fitur pengindeksan data, dan dilengkapi agen percakapan dasar untuk membantu pengguna dengan mudah membuat agen AI mereka sendiri.

Standar penilaian keberhasilan rekayasa konteks juga tengah dibentuk. Dalam proses ini, “evaluasi” dan “observabilitas” memainkan peran penting. Exner menyatakan: “Saat ini, agen harus diperlakukan layaknya sistem inti, dengan memperkuat verifikasi performa dan pengujian kualitas. Verifikasi semacam ini harus berjalan seperti pengujian unit, sekaligus mengintegrasikan pengujian integrasi di mana LLM digunakan sebagai penilai.”

Di antara perusahaan-perusahaan yang berupaya memastikan keandalan dan keberlanjutan sistem AI, rekayasa konteks kini melampaui sekadar istilah populer dan berkembang menjadi strategi dasar berbasis teknologi yang nyata. Exner memproyeksikan melalui konferensi ini: “Dalam satu tahun ke depan, kita akan semakin sering mendengar istilah ‘rekayasa konteks’, dan bidang ini akan memainkan peran krusial dalam mendorong AI ke tahap selanjutnya.”