1. zápočtový test z TI 2017, forma C

  1. Skúmame závislosť dvoch pokusov A a B. Výsledok pokusu A má 5 možností A={A1, A2, A3, A4, A5}, výsledok pokusu B má tiež 5 možností B={B1, B2, B3, B4, B5}. Pravdepodobnosti jednotlivých možností môžeme odhadnúť na základe výsledkov prieskumu, do ktorého sa zapojilo spolu 100 respondentov. Početnosti sú uvedené v nasledujúcej tabuľke:

    B1 B2 B3 B4 B5 Spolu
    A1 3 2 5 0 17 27
    A2 2 3 2 6 2 15
    A3 5 9 1 5 2 22
    A4 2 0 7 6 1 16
    A5 4 1 13 0 2 20
    Spolu 16 15 28 17 24 100

    Vypočítajte entropiu jednotlivých pokusov H(A), H(B), entropiu kombinovaného pokusu H(A^B), spoločnú informáciu oboch pokusov I(A,B) a podmienené entropie oboch pokusov H(A|B), H(B|A).

    H(A) = 2,2885
    H(B) = 2,2765
    H(A^B) = 4,0125
    I(A, B) = 0,5525
    H(A|B) = 1,7360
    H(B|A) = 1,7240

  2. Nech Z = (A*,P) je závislý stacionárny informačný zdroj, A = {1, 2, 3, 4}. Pravdepodobnosť vyslania jednotlivých znakov abecedy závisí od predchádzajúceho vyslaného znaku:

    P(Xn = 1 | Xn-1 = 1) = 0,7
    P(Xn = 2 | Xn-1 = 1) = 0,3
    P(Xn = 3 | Xn-1 = 1) = 0
    P(Xn = 4 | Xn-1 = 1) = 0
    P(Xn = 1 | Xn-1 = 2) = 0,4
    P(Xn = 2 | Xn-1 = 2) = 0,5
    P(Xn = 3 | Xn-1 = 2) = 0,1
    P(Xn = 4 | Xn-1 = 2) = 0
    P(Xn = 1 | Xn-1 = 3) = 0
    P(Xn = 2 | Xn-1 = 3) = 0,3
    P(Xn = 3 | Xn-1 = 3) = 0,6
    P(Xn = 4 | Xn-1 = 3) = 0,1
    P(Xn = 1 | Xn-1 = 4) = 0
    P(Xn = 2 | Xn-1 = 4) = 0
    P(Xn = 3 | Xn-1 = 4) = 0,7
    P(Xn = 4 | Xn-1 = 4) = 0,3

    Určte entropiu jednoznakových a dvojznakových slov H(C1), H(C2), podmienenú entropiu druhého znaku, ak poznáme prvý znak H(X2|X1) a entropiu zdroja H(Z).

    p1 = 0,4912; p2 = 0,3684; p3 = 0,1228; p4 = 0,0175
    H1 = H(C1) = 1,5084
    H2 = H(C2) = 2,6173
    H(Xn|Xn-1Xn-2...X2X1) = H(Xn|Xn-1) = H(X2|X1) = 1,1089
    H(Z) = 1,1089