Maklumat bersama

1. Apakah maksud maklumat bersama?
2. Bagaimana anda menggunakan maklumat bersama?
3. Apakah perbezaan antara korelasi dan maklumat bersama?
4. Adakah maklumat bersama positif?

Apakah maksud maklumat bersama?

Maklumat bersama adalah kuantiti yang mengukur hubungan antara dua pembolehubah rawak yang dicontohi secara serentak. Khususnya, ia mengukur berapa banyak maklumat yang disampaikan, secara purata, dalam satu pemboleh ubah rawak mengenai yang lain.

Bagaimana anda menggunakan maklumat bersama?

Maklumat bersama sering digunakan sebagai bentuk umum pekali korelasi, e.g. ukuran pergantungan antara pembolehubah rawak. Ia juga digunakan sebagai aspek dalam beberapa algoritma pembelajaran mesin.

Apakah perbezaan antara korelasi dan maklumat bersama?

Analisis korelasi menyediakan cara kuantitatif untuk mengukur kekuatan hubungan linear antara dua vektor data. Maklumat bersama pada dasarnya adalah ukuran berapa banyak "pengetahuan" seseorang dapat memperoleh pemboleh ubah tertentu dengan mengetahui nilai pembolehubah lain.

Adakah maklumat bersama positif?

Maklumat bersama adalah tidak dirawat, i.e. I (x; y) ≥ 0. Sama, h (x | y) ≤ h (x). Oleh itu, satu pemboleh ubah rawak pada yang lain hanya dapat mengurangkan entropi. Kesamaan memegang jika dan hanya jika pembolehubah rawak bebas.