Алгоритм Шеннона — Фано — один из первых алгоритмов сжатия, который впервые сформулировали американские учёные Шеннон и Роберт Фано. Данный метод сжатия имеет большое сходство с алгоритмом Хаффмана, который появился на несколько лет позже. Алгоритм использует коды переменной длины: часто встречающийся символ кодируется кодом меньшей длины, редко встречающийся — кодом большей длины. Коды Шеннона — Фано префиксные, то есть никакое кодовое слово не является префиксом любого другого. Это свойство позволяет однозначно декодировать любую последовательность кодовых слов. Основные сведения Кодирование Шеннона — Фано (англ. Shannon–Fano coding) — алгоритм префиксного неоднородного кодирования. Относится к вероятностным методам сжатия (точнее, методам контекстного моделирования нулевого порядка). Подобно алгоритму Хаффмана, алгоритм Шеннона — Фано использует избыточность сообщения, заключённую в неоднородном распределении частот символов его (первичного) алфавита, то есть заменяет коды более частых символов короткими двоичными последовательностями, а коды более редких символов — более длинными двоичными последовательностями. Алгоритм был независимо друг от друга разработан Шенноном (публикация «Математическая теория связи», 1948 год) и, позже, Фано (опубликовано как технический отчёт). Основные этапы Символы первичного алфавита m1 выписывают по убыванию вероятностей. Символы полученного алфавита делят на две части, суммарные вероятности символов которых максимально близки друг другу. В префиксном коде для первой части алфавита присваивается двоичная цифра «0», второй части — «1». Полученные части рекурсивн

1. Роберт Марио Фано (Robert Mario Fano,
р. 11 ноября 1917, Турин, Италия) —
итальяно-американский ученый в
области информатики, профессор
emeritus факультетов Electrical
Engineering и Computer Science в
Массачусетском технологическом
институте. Фано известен по работам в
области теории информации, он
независимо от Клода Шеннона изобрел
ранний алгоритм сжатия информации и
вывел неравенство Фано

2.  Роберт Фано поступил в Политехнический университет
Турина, но в 1939 году эмигрировал в США. Здесь он
продолжил обучение в Массачусетском технологическом
институте (МИТ), получив степень бакалавра в 1941 году.
После этого он проработал шесть лет в лаборатории Radiation
Laboratory МИТ, а в 1947 году защитил диссертацию на
звание доктора (Theoretical Limitations on the Broadband
Matching of Arbitrary Impedances).
 В начале 1960-х годов он участвовал в развитии компьютеров
с разделением времени, в частности, создав с Фернандо
Корбато систему Compatible Time-Sharing System (CTSS). В
1963—1968 основал и руководил проектом MAC, который
позже стал лабораторией института (MIT Computer Science
and Artificial Intelligence Laboratory).

3.  Условие Фано (англ. Fano condition, в честь Роберта Фано) — в теории
кодирования необходимое условие построения самотерминирующегося кода
(в другой терминологии, префиксного кода). Обычная формулировка этого
условия выглядит так:
 Никакое кодовое слово не может быть началом другого кодового
слова.Более «математическая» формулировка:
 Если в код входит слово a, то для любой непустой строки b слова ab в коде
не существует.Примером кода, удовлетворяющего условию Фано, являются
телефонные номера в традиционной телефонии. Если в сети существует
номер 101, то номер 1012345 не может быть выдан: при наборе трёх цифр
АТС прекращает понимать дальнейший набор и соединяет с адресатом по
номеру 101. Однако для набора с сотового телефона это правило уже не
действует, потому что требуется явное завершение последовательности
знаков соответствующей кнопкой (обычно — с изображением зелёной
трубки), при этом 101, 1010 и 1012345 могут одновременно пониматься как
разные адресаты.
 Термин «условие Фано» не является традиционным для русскоязычного
сообщества.

4.  В начале 1950-ых Фано предложил неравенство
(лемму), связывающую среднюю потерю
информации через канал передачи с шумами с
вероятностью ошибок при приёме сигнала.
Лемма была опубликована в 1961 году.
 Неравенство используется для вычисления
нижней границы вероятности ошибки для
любого декодера, а также для получения границ
для минимаксного риска в оценке плотности.

5.  Фано стал действительным членом
Национальной академии инженерных наук в
1973, NAS в 1978 и Американской академии
искусств и наук в 1958.
 В 1976 году Фано получил награду им. Шеннона
за работы в области теории информации

6.  Кроме работ в области теории информации, Фано написал несколько
статей и книг о микроволновых системах[9], электромагнетизме,
теории сетей.
 Microwave Transmission Circuits, под ред. George L. Ragan, том.
9 в серии Radiation Laboratory Series (соавтор, 1948).
 Electromagnetic Energy Transmission and Radiation (с Lan Jen
Chu и Richard B. Adler, 1960).
 Electromagnetic Fields, Energy, and Forces (с Chu и Adler, 1960).
 Robert M. Fano, Transmission of Information: A Statistical Theory
of Communications. Cambridge, Mass., M.I.T. Press, 1961, ISBN
978-0262561693
 Р. Фано, Передача информации. Статистическая теория
связи/Перевод с англ. яз. И. А. Овсеевич, Р. Л. Добрушин. М: Мир,
1965. 440 с.