https://nalar.dev/id/tags/rag/ Recent content in RAG on Nalar Hugo id-id Wed, 02 Sep 2026 00:00:00 +0000 https://nalar.dev/id/atur-anggaran-context-window-llm-tanpa-kehilangan-instruksi-penting/ Wed, 02 Sep 2026 00:00:00 +0000 https://nalar.dev/id/atur-anggaran-context-window-llm-tanpa-kehilangan-instruksi-penting/ <p>Aplikasi large language model jarang gagal hanya karena prompt kelebihan satu token. Kegagalan biasanya terjadi karena pertumbuhan context ditangani tanpa prioritas. Riwayat chat membesar, retrieval mengembalikan lebih banyak passage, hasil tool menjadi panjang, dan pada akhirnya aplikasi memangkas teks mana pun yang paling mudah dipotong.</p> <p>Desain yang lebih aman memperlakukan context window sebagai anggaran dengan alokasi eksplisit. Tujuannya bukan mengisi setiap token yang tersedia, melainkan mempertahankan informasi yang mengendalikan perilaku sekaligus menyisakan ruang yang cukup untuk jawaban lengkap.</p>