Одиниці виміру інформації

Інформація для людини – це знання. Значить, повідомлення містить ненульову інформацію, якщо воно поповнює знання людини. Повідомлення несе інформацію для людини, якщо містяться в ньому відомості є для нього новими і зрозумілими. Тому для різних людей одне й те саме повідомлення містить інформацію, а може її і не містити.

Інформація – це міра зменшення невизначеності знань. Якщо деяке повідомлення призводить до зменшення невизначеності наших знань, то таке повідомлення містить інформацію. За одиницю виміру інформації приймається 1 біт – зменшення невизначеності знань людини в 2 рази. Підкинемо монету. Так як у монети дві сторони, то при киданні може статися одне з двох равновероятностних подій: орел чи решка.

Є всього два варіанти можливого результату кидання монети, тому перед підкиданням монети невизначеність знань про результат дорівнює двом. Результат кидання монети несе 1 біт інформації.

1 біт – мінімальна одиниця вимірювання кількості інформації. Але існують і інші:

1 байт = 8 біт;

1 Кбайт = 1024 байт;

1 Мбайт = 1024 Кбайт;

1 Гбайт = 1024 Мбайт;

1 Тб (терабайт) = 1024 Гбайт;

1 Еб (ексабайт) = 109 Гбайт.

Позначимо буквою N кількість равновероятностних подій (невизначеність знань про деяке подію), i – кількість інформації, отриманої в результаті здійснення події.

Кількість інформації (i), що міститься в повідомленні про те, що сталося одне з N рівноймовірно подій, можна визначити з формули Хартлі: N = 2i.

Author: Олександр
Фанат своєї справи і просто крутий чувак.