https://nalar.dev/id/tags/probabilitas/ Recent content in Probabilitas on Nalar Hugo id-id Tue, 22 Sep 2026 00:00:00 +0000 https://nalar.dev/id/top-p-sampling-membentuk-ulang-set-kandidat-pada-setiap-token/ Tue, 22 Sep 2026 00:00:00 +0000 https://nalar.dev/id/top-p-sampling-membentuk-ulang-set-kandidat-pada-setiap-token/ <p>Top-p sampling tidak mempertahankan shortlist token yang tetap sepanjang generation. Pada setiap langkah decoding, model menghasilkan vektor logit baru, vektor itu menjadi distribusi probabilitas, lalu sampler membentuk set kandidat baru dengan massa probabilitas kumulatif yang mencapai threshold terkonfigurasi.</p> <p>Konsekuensinya mudah terlewat pada kode serving: nilai <code>top_p</code> yang sama dapat memasukkan dua token pada satu langkah dan puluhan token pada langkah lain. Parameter ini mengendalikan massa probabilitas, bukan jumlah kandidat.</p> <h2 id="cutoff-mengikuti-distribusi-saat-ini">Cutoff mengikuti distribusi saat ini</h2> <p>Untuk vocabulary dengan probabilitas token <code>p_1, p_2, ..., p_V</code>, urutkan token dari probabilitas tertinggi ke terendah:</p>