Entropi diskret

1. Adalah entropi diskret atau berterusan?
2. Apa itu pengedaran diskret dengan contoh?
3. Apakah entropi data?
4. Apa maksud entropi 1?

Adalah entropi diskret atau berterusan?

Entropi serta pemeliharaan entropi hanya ditakrifkan dengan baik hanya dalam konteks pemboleh ubah rawak yang semata-mata diskret atau berterusan. Walau bagaimanapun, untuk campuran pembolehubah rawak yang diskret dan berterusan, yang timbul dalam banyak situasi yang menarik, tanggapan entropi dan pemeliharaan entropi belum difahami dengan baik.

Apa itu pengedaran diskret dengan contoh?

Kebarangkalian diskret mengira kejadian yang mempunyai hasil yang boleh dikira atau terhingga. Ini berbeza dengan pengedaran berterusan, di mana hasil boleh jatuh di mana sahaja di kontinum. Contoh umum pengedaran diskret termasuk pengagihan Binomial, Poisson, dan Bernoulli.

Apakah entropi data?

Dalam Teori Maklumat, entropi pemboleh ubah rawak adalah tahap purata "maklumat", "kejutan", atau "ketidakpastian" yang wujud pada hasil yang mungkin pembolehubah.

Apa maksud entropi 1?

Ini dianggap sebagai entropi yang tinggi, tahap gangguan yang tinggi (bermaksud tahap kesucian yang rendah). Entropi diukur antara 0 dan 1. (Bergantung pada bilangan kelas dalam dataset anda, entropi boleh lebih besar daripada 1 tetapi ini bermakna perkara yang sama, tahap gangguan yang sangat tinggi.