Zmierz zawartość informacji i nieprzewidywalność źródła danych.
Wejście dotyczące prawdopodobieństwa/liczby
Wartości są normalizowane automatycznie.
Analiza entropii
Entropia informacji (H)1Bity na symbol
Stany źródłowe2
Entropia względna100.0%Max Uncertainty
Overview
Shannon Entropy określa ilościowo ilość „niespodzianki” lub średniej informacji zawartej w każdym symbolu wyprodukowanym przez źródło. Jest ona mierzona w bitach na symbol i reprezentuje teoretyczną granicę bezstratnej kompresji danych.
💡
Pro Tips
Wyższe wartości entropii oznaczają, że źródło jest bardziej losowe i mniej przewidywalne.
W kryptografii wysoka entropia jest niezbędna do generowania silnych, nieprzewidywalnych kluczy.
Jeśli wprowadzisz liczby (np. 20, 30), kalkulator przeliczy je na prawdopodobieństwa.
!
Fun Facts
"Uczciwy rzut monetą ma entropię dokładnie 1,0 bita, podczas gdy stronnicza moneta, która zawsze ląduje orłem, ma 0 bitów entropii, ponieważ nie ma niepewności."
"Termin ten został ukuty przez Claude'a Shannona w jego przełomowym artykule z 1948 r. „A Mathematical Theory of Communication”, który zapoczątkował dziedzinę teorii informacji."
"Entropia jest maksymalizowana, gdy wszystkie możliwe wyniki są jednakowo prawdopodobne, co reprezentuje stan maksymalnej niepewności."
