Як будується код Шеннона Фано?

Код Шеннона – Фано будується за допомогою дерева . Побудова цього дерева починається від кореня. Уся множина елементів, що кодуються, відповідає кореню дерева (вершині першого рівня). Вона розбивається на дві підмножини з приблизно однаковими сумарними ймовірностями.

Алгоритм побудови бінарного коду Шеннона Відсортувати елементи алфавіту за не зростанням імовірності зустрічі символу. Елементу поставити у відповідність число , при цьому . Представити кожне число у вигляді двійкового дробу. Як кодове слово для використовувати перші коефіцієнти подання .

Головна ідея цього методу – замінити символи, що часто трапляються, на більш короткі коди, а послідовності, що рідко трапляються, на більш довгі коди. Таким чином, алгоритм ґрунтується на кодах змінної довжини.

Абревіатура ФАНО Росії (2013-2018) – Федеральне агентство наукових організацій, орган виконавчої влади в Росії, скасований 2018 року.