Teoria informacji

Ilościowy opis informacji. Entropia i informacja wzajemna, kodowanie źródłowe i kanałowe, przepustowość kanału, kompresja bezstratna i korekcja błędów.

EntropiaKodowanieShannonKompresjaPython

Slajdy z wykładów — 1

PDF

Jak porozumieć się bezbłędnie przez zawodny kanał

35 stron

Wprowadzenie do teorii informacji. Binarny kanał symetryczny i poziom szumu, rozwiązanie fizyczne kontra systemowe, kody powtórzeniowe i głosowanie większościowe, kod Hamminga (7,4) z dekodowaniem syndromowym, pojemność kanału C = 1 − H(f) i twierdzenie Shannona.