1. a 2. zápočtový test z TI 2015, forma H

1. Skúmame závislosť dvoch pokusov A a B. Výsledok pokusu A má 3 možnosti A={A₁, A₂, A₃}, výsledok pokusu B má 5 možností B={B₁, B₂, B₃, B₄, B₅}. Pravdepodobnosti jednotlivých možností môžeme odhadnúť na základe výsledkov prieskumu, do ktorého sa zapojilo spolu 100 respondentov. Početnosti sú uvedené v nasledujúcej tabuľke:

   	B1	B2	B3	B4	B5	Spolu
   A1	16	11	1	4	1	33
   A2	6	1	2	8	4	21
   A3	2	4	8	18	14	46
   Spolu	24	16	11	30	19	100

   Vypočítajte entropiu jednotlivých pokusov H(A), H(B), entropiu kombinovaného pokusu H(A^B), spoločnú informáciu oboch pokusov I(A,B) a podmienené entropie oboch pokusov H(A|B), H(B|A).

   H(A) =
   H(B) =
   H(A^B) =
   I(A, B) =
   H(A|B) =
   H(B|A) =
   

2. Nech Z = (A^*,P) je závislý stacionárny informačný zdroj, A = {1, 2, 3}. Pravdepodobnosť vyslania jednotlivých znakov abecedy závisí od predchádzajúceho vyslaného znaku:

   P(X_n = 1 | X_n-1 = 1) = 0,7
   P(X_n = 2 | X_n-1 = 1) = 0,3
   P(X_n = 3 | X_n-1 = 1) = 0
   P(X_n = 1 | X_n-1 = 2) = 0,3
   P(X_n = 2 | X_n-1 = 2) = 0,6
   P(X_n = 3 | X_n-1 = 2) = 0,1
   P(X_n = 1 | X_n-1 = 3) = 0
   P(X_n = 2 | X_n-1 = 3) = 0,4
   P(X_n = 3 | X_n-1 = 3) = 0,6
   

   Určte entropiu jednoznakových a dvojznakových slov H(C₁), H(C₂), podmienenú entropiu druhého znaku, ak poznáme prvý znak H(X₂|X₁) a entropiu zdroja H(Z).

   p₁ = ..., p₂ = ..., p₃ = ...
   H₁ = H(C₁) =
   H₂ = H(C₂) =
   H(X_n|X_n-1X_n-2...X₂X₁) = H(X_n|X_n-1) = H(X₂|X₁) =
   H(Z) =
   

---

3. Nájdite najkratší kód a určte jeho dĺžku pre stacionárny nezávislý zdroj Z = (A^*,P), A = {a, b, c, d, e, f, g, h, i, j}. Porovnajte dĺžku kódu s entropiou zdroja H(Z)

   z	p(z)
   a	0,059
   b	0,171
   c	0,142
   d	0,074
   e	0,057
   f	0,169
   g	0,046
   h	0,057
   i	0,004
   j	0,221

4. Nech G=

   1	0	0	0	1	1	0	1	0
   0	1	0	0	1	1	1	1	1
   0	0	1	0	0	0	1	1	1
   0	0	0	1	1	0	1	0	1

   je generujúca matica lineárneho (9,4) kódu K. Určte minimálnu vzdialenosť kódu K (delta K). Koľkonásobné chyby dokáže takýto kód objaviť a koľkonásobné opraviť?

5. Nech w =

   (1,1,1,1,0,1,0,0,0)^T

   je prijaté slovo. Dekódujte (opravte) toto slovo podľa lineárneho kódu z predchádzajúcej úlohy.