Kalendarium teorii informacji - Timeline of information theory
Kalendarium wydarzeń związanych z teorii informacji , teorii informacji kwantowej i fizyki statystycznej , kompresja danych , kodów korekcji błędów i pokrewnych przedmiotów.
- 1872
- Ludwig Boltzmann przedstawia swoje twierdzenie H , a wraz z nim wzór Σ p i log p i na entropię pojedynczej cząstki gazu - 1878 - J. Willard Gibbs definiuje entropię Gibbsa : prawdopodobieństwa we wzorze na entropię są teraz przyjmowane jako prawdopodobieństwa stanu całego układu
- 1924
- Harry Nyquist omawia kwantyfikację „inteligencji” i szybkości, z jaką może być przesyłana przez system komunikacyjny - 1927 - John von Neumann definiuje entropię von Neumanna , rozszerzając entropię Gibbsa na mechanikę kwantową
- 1928 - Ralph Hartley wprowadza informację Hartleya jako logarytm liczby możliwych komunikatów, przy czym informacja jest przekazywana, gdy odbiorca może odróżnić jedną sekwencję symboli od innych (niezależnie od powiązanego znaczenia)
- 1929 - Leó Szilárd analizuje Demona Maxwella , pokazując, jak silnik Szilarda może czasami przekształcić informacje w wydobywanie pożytecznej pracy
- 1940 - Alan Turing wprowadza decybany jako miarę informacji wywnioskowanych o ustawieniach szyfru niemieckiej maszyny Enigma przez proces Banburismus
- 1944 - Teoria informacji Claude'a Shannona jest zasadniczo kompletna
- 1947
- Richard W. Hamming wymyśla kody Hamminga do wykrywania i korygowania błędów (w celu ochrony praw patentowych wynik został opublikowany dopiero w 1950 r.) - 1948 - Claude E. Shannon publikuje Matematyczną teorię komunikacji
- 1949 - Claude E. Shannon publikuje twierdzenie o próbkowaniu Komunikacja w obecności hałasu - Nyquist-Shannon i prawo Shannona-Hartleya
- 1949 - Claude E. Shannon „s Teoria komunikacji zachowania tajemnicy Systems jest odtajnione
- 1949
- Robert M. Fano publikuje Przekaz informacji . Kodowanie MIT Press, Cambridge, Massachusetts - Shannon – Fano
- 1949 - Leon G. Kraft odkrywa nierówność Krafta , która pokazuje granice kodów prefiksów
- 1949 - Marcel JE Golay wprowadza kody Golaya do korekcji błędów w przód
- 1951 - Solomon Kullback i Richard Leibler wprowadzają dywergencję Kullbacka-Leiblera
- 1951 - David A. Huffman wymyśla kodowanie Huffmana , metodę znajdowania optymalnych kodów prefiksów do bezstratnej kompresji danych
- 1953 - August Albert Sardinas i George W. Patterson opracowują algorytm Sardinasa-Pattersona , procedurę decydującą o tym, czy dany kod o zmiennej długości jest wyjątkowo dekodowalny
- 1954 - Irving S. Reed i David E. Muller proponują kody Reeda-Mullera
- 1955 - Peter Elias wprowadza kody splotowe
- 1957 - Eugene Prange po raz pierwszy omawia kody cykliczne
- 1959 - Alexis Hocquenghem , a następnego roku niezależnie Raj Chandra Bose i Dwijendra Kumar Ray-Chaudhuri odkrywają kody BCH
- 1960 - Irving S. Reed i Gustave Solomon proponują kody Reed-Solomon
- 1962 - Robert G. Gallager proponuje kody kontroli parzystości o niskiej gęstości ; są nieużywane przez 30 lat ze względu na ograniczenia techniczne
- 1965 - Dave Forney omawia połączone kody
- 1966 - Fumitada Itakura ( Uniwersytet Nagoya ) i Shuzo Saito ( Nippon Telegraph and Telephone ) opracowują liniowe kodowanie predykcyjne (LPC), formę kodowania mowy
- 1967 - Andrew Viterbi ujawnia algorytm Viterbiego , umożliwiając dekodowanie kodów splotowych
- 1968 - Elwyn Berlekamp wymyśla algorytm Berlekampa-Masseya ; jego zastosowanie do dekodowania kodów BCH i Reed-Solomon zostało wskazane przez Jamesa L. Masseya w następnym roku
- 1968 - Chris Wallace i David M. Boulton publikują pierwszy z wielu artykułów na temat wnioskowania statystycznego i indukcyjnego o minimalnej długości wiadomości ( MML )
- 1970 - Valerii Denisovich Goppa wprowadza kody Goppa
- 1972 - Jørn Justesen proponuje kody Justesena , ulepszenie kodów Reeda-Solomona
- 1972 - Nasir Ahmed proponuje dyskretną transformatę kosinusową (DCT), którą rozwija wraz z T. Natarajanem i KR Rao w 1973 roku; DCT stał się później najczęściej używanym algorytmem kompresji stratnej , podstawą formatów multimedialnych, takich jak JPEG , MPEG i MP3
- 1973 - David Slepian i Jack Wolf odkrywają i udowadniają ograniczenia kodowania Slepian – Wolf dla rozproszonego kodowania źródłowego
- 1976 - Gottfried Ungerboeck wygłasza pierwszy artykuł na temat modulacji kratowej ; bardziej szczegółowa ekspozycja z 1982 r. prowadzi do podniesienia prędkości modemów analogowych POTS z 9,6 kbit / s do 33,6 kbit / s
- 1976 - Richard Pasco i Jorma J. Rissanen opracowują skuteczne techniki kodowania arytmetycznego
- 1977 - Abraham Lempel i Jacob Ziv opracowują kompresję Lempel – Ziv ( LZ77 )
- 1989 - Phil Katz publikuje w
.zipformacie tym opróżnić (LZ77 + Huffman kodowania); później stał się najczęściej używanym kontenerem archiwum - 1993 - Claude Berrou , Alain Glavieux i Punya Thitimajshima wprowadzają kody Turbo
- 1994 - Michael Burrows i David Wheeler publikują transformację Burrows-Wheeler , która później znalazła zastosowanie w bzip2
- 1995 - Benjamin Schumacher używa terminu kubit i udowadnia kwantowe bezszumowe twierdzenie o kodowaniu
- 2006 - pierwsze kodowanie entropijne asymetrycznych systemów numerycznych : od 2014 popularna zamiana Huffmana i kodowania arytmetycznego w kompresorach takich jak Facebook Zstandard , Apple LZFSE , CRAM czy JPEG XL
- 2008 - Erdal Arıkan wprowadza kody polarne , pierwszą praktyczną konstrukcję kodów, która osiąga pojemność dla szerokiej gamy kanałów