Войти
Хронология событий, связанных с 
теорией информации, 
квантовой теорией информации и статистической физикой, 
сжатием данных, 
кодами исправления ошибок и связанными темами.
– Людвиг Больцман представляет свою H-теорему, а вместе с ней и формулу Σp i log p i для энтропии единичная частица газа – Дж. Уиллард Гиббс определяет энтропию Гиббса : вероятности в формуле энтропии теперь принимаются как вероятности состояния всей системы – Гарри Найквист обсуждает количественная оценка «интеллекта» и скорости, с которой он может быть передан системой связи – Джон фон Нейман определяет энтропию фон Неймана, расширяя энтропию Гиббса до квантовая механика – Ральф Хартли вводит информацию Хартли как логарифм количества возможных сообщений, при этом информация передается, когда получатель может отличить одну последовательность символов от любое другое (независимо от какого-либо связанного значения) – Лео Сцилард анализирует Демона Максвелла, показывая, как двигатель Сциларда может иногда преобразовывать информацию в извлечение полезной работы – Алан Тьюринг вводит децибан как меру информации, полученной о немецкой Enigma машина настройки шифрования с помощью процесса банбуризма – Теория информации Клода Шеннона практически завершена – Ричард У. Хэмминг изобретает коды Хэмминга для обнаружения и исправления ошибок (для защиты патентных прав результат не публикуется до 1950 года) – Клод Э. Шеннон публикует Математическую теорию коммуникации – Клод Э. Шеннон публикует «Коммуникация в присутствии шума» - теорема выборки Найквиста – Шеннона и Шеннон – Хартли закон – Теория коммуникации систем секретности Клода Э. Шеннона рассекречена – Роберт М. Фано публикует передачу Информация. M.I.T. Press, Кембридж, Массачусетс - кодирование Шеннона-Фано - Леон Г. Крафт обнаруживает неравенство Крафт, которое показывает пределы кодов префикса – Марсель Дж. Э. Голей вводит коды Голея для упреждающего исправления ошибок – Соломон Кульбак и Ричард Лейблер вводит Расхождение Кульбака – Лейблера – Дэвид А. Хаффман изобретает кодирование Хаффмана, метод поиска оптимальных кодов префикса для без потерь сжатие данных - и Джордж У. Паттерсон разработали алгоритм Сардин-Паттерсона, процедуру определения того, является ли данный код переменной длины однозначно декодируемым. – Ирвинг С. Рид и Дэвид Э. Мюллер предлагают коды Рида – Мюллера – Питер Элиас вводит сверточные коды – Юджин Прейндж сначала обсуждает циклические коды – Alexis Hocquenghem, и независимо в следующем году r Радж Чандра Боз и Двиджендра Кумар Рэй-Чаудхури, обнаруживают коды BCH – Ирвинг С. Рид и Гюстав Соломон предлагают коды Рида – Соломона – Роберт Г. Галлагер предлагает коды контроля четности с низкой плотностью ; они не используются в течение 30 лет из-за технических ограничений – Дэйв Форни обсуждает составные коды – Фумитада Итакура (Университет Нагоя ) и Сюдзо Сайто (Nippon Telegraph and Telephone ) разрабатывают кодирование с линейным прогнозированием (LPC), форму кодирования речи – Эндрю Витерби раскрывает алгоритм Витерби, делающий возможным декодирование сверточных кодов – Элвин Берлекамп изобретает алгоритм Берлекампа – Мэсси ; его применение для декодирования кодов BCH и Рида-Соломона указано Джеймсом Л. Мэсси в следующем году – Крис Уоллес и Дэвид М. Бултон публикуют первые многих статей по статистическому и индуктивному выводу Минимальная длина сообщения (MML ) – Валерий Денисович Гоппа вводит коды Гоппы - предлагает коды Юстесена, усовершенствованные коды Рида-Соломона – Насир Ахмед предлагает дискретное косинусное преобразование ( DCT), которую он развивает вместе с Т. Натараджан и К. Р. Рао в 1973 г.; позже DCT стал наиболее широко используемым алгоритмом сжатия с потерями, основой для таких мультимедийных форматов, как JPEG, MPEG и MP3 – Дэвид Слепян и Джек Вольф открывают и доказывают ограничения кодирования Слепяна – Вольфа для распределенного кодирования источников – Готфрид Унгербек дает первую статью по решетчатой модуляции ; более подробное описание в 1982 году приводит к увеличению скорости аналогового модема POTS с 9,6 кбит / с до 33,6 кбит / с - Ричард Паско и Йорма Дж.. Риссанен разрабатывает эффективные методы арифметического кодирования – Абрахам Лемпель и Джейкоб Зив развивает сжатие Лемпеля – Зива (LZ77 ) – Фил Кац публикует формат .zip, включая DEFLATE (кодирование LZ77 + Хаффмана); позже стал самым широко распространенным использованный архивный контейнер – Claude Berrou, Alain Glavieux и Punya Thitimajshima представить Турбо-коды – Майкл Берроуз и Дэвид Уилер публикуют преобразование Барроуза-Уиллера, позже найденное применение в bzip2 – Бенджамин Шумахер вводит термин кубит и доказывает квантовую теорему бесшумного кодирования - первая Асимметричная система счисления энтропийное кодирование: с 2014 года популярная замена Хаффмана и арифметическое кодирование в таких компрессорах, как Facebook Zstandard или Apple LZFSE – Эрдал Арыкан вводит полярные коды, первая практическая конструкция кодов, обеспечивающая пропускную способность для широкого спектра каналов