https://nalar.dev/id/tags/inferensi-llm/ Recent content in Inferensi LLM on Nalar Hugo id-id Thu, 17 Sep 2026 00:00:00 +0000 https://nalar.dev/id/mempertahankan-attention-sink-dalam-kv-cache-terbatas/ Thu, 17 Sep 2026 00:00:00 +0000 https://nalar.dev/id/mempertahankan-attention-sink-dalam-kv-cache-terbatas/ <p>KV cache terbatas tampak cocok dengan aturan eviction sederhana: setelah cache penuh, buang pasangan key-value tertua dan pertahankan token terbaru. Pada sebagian transformer decoder-only, aturan ini dapat menurunkan kualitas generasi secara tajam setelah urutan melewati jendela yang dipertahankan. Kegagalan tersebut tidak hanya berasal dari hilangnya konten semantik lama. Token awal dapat menerima attention besar meski teksnya hanya membawa sedikit informasi yang berguna untuk prediksi saat ini.</p> <p>Perilaku ini umum disebut <strong>attention sink</strong>. Dampaknya penting bagi desain inferensi streaming karena kebijakan cache yang mempertahankan prefix awal kecil ditambah sliding window terbaru dapat berperilaku sangat berbeda dari sliding window murni dengan batas memori yang serupa.</p>