Cross Entropy

Label Smoothing Mendistribusikan Ulang Probabilitas Target ke Seluruh Kelas

Classifier yang dilatih dengan target one-hot menempatkan seluruh massa probabilitas target pada satu kelas. Label smoothing mengubah target tersebut sebelum cross-entropy dihitung: sebagian massa dipindahkan dari kelas yang ditetapkan lalu diberikan kepada kelas lain. Arsitektur network dapat tetap sama, tetapi objective optimisasinya sudah berbeda. Perbedaan ini relevan saat menafsirkan confidence, nilai loss, dan konfigurasi implementasi. Label smoothing bukan operasi post-processing pada probabilitas prediksi. Mekanisme ini mengubah distribusi target yang menghasilkan sinyal training.