Normalisasi batch

1. Apa yang dilakukan oleh normalisasi batch?
2. Bilakah saya harus menggunakan normalisasi batch?
3. Mengapa normalisasi batch digunakan dalam CNN?

Apa yang dilakukan oleh normalisasi batch?

Normalisasi batch adalah teknik untuk latihan rangkaian saraf yang sangat mendalam yang menormalkan sumbangan ke lapisan untuk setiap batch mini. Ini mempunyai kesan menyelesaikan proses pembelajaran dan secara drastik mengurangkan jumlah zaman latihan yang diperlukan untuk melatih rangkaian saraf yang mendalam.

Bilakah saya harus menggunakan normalisasi batch?

Bila Menggunakan Normalisasi Kumpulan? Kita boleh menggunakan normalisasi batch dalam rangkaian saraf konvolusi, rangkaian saraf berulang, dan rangkaian saraf buatan. Dalam pengekodan praktikal, kami menambah normalisasi batch selepas fungsi pengaktifan lapisan output atau sebelum fungsi pengaktifan lapisan input.

Mengapa normalisasi batch digunakan dalam CNN?

Norma batch adalah teknik normalisasi yang dilakukan antara lapisan rangkaian saraf dan bukannya dalam data mentah. Ia dilakukan di sepanjang batch mini dan bukannya set data penuh. Ia berfungsi untuk mempercepatkan latihan dan menggunakan kadar pembelajaran yang lebih tinggi, menjadikan pembelajaran lebih mudah. sisihan piawai output neuron.