Двоичный логарифм
Двоичный логарифм — это логарифм по основанию 2. В информатике он показывает, сколько двоичных разрядов нужно, чтобы закодировать один из заданного числа равновероятных вариантов.
Формула в информатикаға
Если есть \(N\) равновероятных нұсқа, то количество информации в одном варианте вычисляют по формуле формулы количества информации. При использовании двоичного кода один разряд может иметь два значения — 0 или 1, поэтому число разрядов определяется двоичным логарифмом.
Если \(N\) не является степенью двойки, для равномерного кода берут целое число разрядов, достаточное для кодирования всех вариантов: \(L=\lceil\log_2 N\rceil\). Здесь \(\lceil x\rceil\) означает округление вверх. Для \(N=2^k\) длина кода равна точно \(k\).
Нужно закодировать 8 равновероятных сообщений. Так как \(8=2^3\), получаем \(\log_2 8=3\). Значит, каждому сообщению можно поставить в соответствие трёхразрядный двоичный код: например, от 000 до 111.
Двоичный логарифм не равен обычному делению числа на 2. Например, \(\log_2 16=4\), потому что \(2^4=16\). Также не следует путать число нұсқа \(N\) с длиной кода: \(N\) нұсқа требуют \(\log_2 N\) разрядов только тогда, когда \(N\) — степень двойки; в остальных случаях нужна длина \(\lceil\log_2 N\rceil\).
Сколько двоичных разрядов нужно для кодирования 32 равновероятных нұсқа?
Связь логарифма с количеством информации особенно важна при изучении количества информации при равновероятных событиях. Единицу, соответствующую одному двоичному разряду, называют битом.
Главное
- \(\log_2 x\) — показатель степени, в которую нужно возвести 2, чтобы получить \(x\).
- Для \(N\) равновероятных нұсқа информационная величина равна \(\log_2 N\).
- Длина равномерного двоичного кода: \(L=\lceil\log_2 N\rceil\); если \(N=2^k\), то \(L=k\).