Представление информации: биты, коды, изображения

Бит и единицы измерения
Бит — элементарная единица информации: выбор из двух вариантов. Двоичное слово длиной $m$ бит различает $2^m$ сообщений.

• $1$ B (байт) $= 8$ бит
• $1$ KB $= 2^{10}$ B $= 1024$ B, MB KB, GB MB, TB GB

Минимальная длина двоичного слова
Если источник дает $n$ различных сообщений, а слова имеют одинаковую длину, то минимальная длина $m$ — наименьшее натуральное число, для которого $2^m \ge n$. В тестах формула записывается как $m \geq \log_2 n$.

• округление всегда вверх: $\log_2 52 \approx 5{,}7$, значит $m = 6$ бит
• при $n = 10$ получаешь $m = 4$, так как

Таблица, которая нужна чаще всего:

Объем кода или текста
Код из $N$ символов, каждый по $I$ бит, занимает $V = N I$ бит. Для $K$ таких кодов объем равен $V = K N I$.Эта же связь работает обратно: если дан общий объем, число обращений или кодов равно

Изображения
Для изображения размером $m_x \times m_y$ пикселей с $n$ уровнями яркости:

• черно-белое, один канал: $I = m_x m_y \log_2 n$
• цветное, три основных цвета: $I = 3 m_x m_y \log_2 n$

Обратная задача требует размеры: из $I$ и $n$ находишь произведение $m_x m_y$, а если изображение квадратное, то $m_x = m_y = \sqrt{m_x m_y}$.

Видео
Клип длительностью $T$ секунд, идущий со скоростью $f$ кадров в секунду, где кадр занимает $I$ бит, требует $V = T f I$ бит. Сначала считаешь кадр по формуле изображения, потом умножаешь.

Перевод единиц
Из бит в байты делишь на $8$, из байтов в KB — на $2^{10}$, дальше так же. Надежнее держать все в степенях двойки: $3 \cdot 2^{25}$ бит $= 3 \cdot 2^{22}$ B KB.

Система передачи информации
Цепочка, которую требуют задания со схемой: источник, шифратор, модулятор, физическая среда, демодулятор, дешифратор, приемник. Модулятор превращает дискретные сигналы в непрерывные, демодулятор делает обратное, а помехи возникают в физической среде.