https://nalar.dev/id/tags/fine-tuning/ Recent content in Fine-Tuning on Nalar Hugo id-id Fri, 11 Sep 2026 00:00:00 +0000 https://nalar.dev/id/adaptasi-model-bahasa-dengan-prefix-tuning/ Fri, 11 Sep 2026 00:00:00 +0000 https://nalar.dev/id/adaptasi-model-bahasa-dengan-prefix-tuning/ <h1 id="adaptasi-model-bahasa-dengan-prefix-tuning">Adaptasi Model Bahasa dengan Prefix Tuning</h1> <p>Full fine-tuning mengubah bobot model untuk setiap tugas. Cara ini bisa efektif, tetapi menyimpan dan melakukan serving checkpoint penuh yang terpisah untuk setiap tugas menjadi mahal ketika ukuran model dan jumlah tugas bertambah. Prefix tuning menawarkan susunan berbeda: pertahankan model pretrained dalam keadaan beku dan latih sekumpulan kecil state spesifik tugas yang ikut berpartisipasi dalam attention.</p> <p>Artikel ini membangun model mental praktis untuk prefix tuning, menunjukkan perbedaannya dari text prompt dan adapter bobot low-rank, serta menjelaskan trade-off yang penting ketika melatih atau melakukan serving beberapa varian tugas.</p>