Mengukur kandungan informasi dan ketidakpastian sumber data.
Masukan Probabilitas/Hitungan
Nilai dinormalisasi secara otomatis.
Analisis Entropi
Entropi Informasi (H)1Bit Per Simbol
Negara Sumber2
Entropi Relatif100.0%Max Uncertainty
Overview
Entropi Shannon mengkuantifikasi jumlah 'kejutan' atau informasi rata-rata yang terkandung dalam setiap simbol yang dihasilkan oleh suatu sumber. Ini diukur dalam bit per simbol dan mewakili batas teoritis untuk kompresi data lossless.
💡
Pro Tips
Nilai entropi yang lebih tinggi berarti sumbernya lebih acak dan kurang dapat diprediksi.
Dalam kriptografi, entropi tinggi sangat penting untuk menghasilkan kunci yang kuat dan tidak dapat diprediksi.
Jika Anda memasukkan hitungan (seperti 20, 30), kalkulator akan mengubahnya menjadi probabilitas untuk Anda.
!
Fun Facts
"Pelemparan koin yang adil memiliki entropi tepat 1,0 bit, sedangkan koin yang bias selalu mendarat di kepala memiliki entropi 0 bit karena tidak ada ketidakpastian."
"Istilah ini diciptakan oleh Claude Shannon dalam makalahnya yang terkenal pada tahun 1948, 'A Mathematical Theory of Communication', yang mendirikan bidang Teori Informasi."
"Entropi dimaksimalkan ketika semua kemungkinan hasil mempunyai kemungkinan yang sama, mewakili keadaan ketidakpastian maksimum."
