P(y1)=P(x1)*0,9+P(x2)*0,2=0,48 P(y2)=P(x1)*0,1+P(x2)*0,8=0,52 Entropia: H(Y)=-[P(y1)*LOG 2 (P(y1))+P(y2)*LOG 2 (P(y2))]= 0,998845536 2. Dany jest kanał telekomunikacyjny określony macierzą. Oblicz entropię zmiennej losowej Y reprezentującej sygnał odbierany, jeżeli prawdopodobieństwa nadawania sygnałów wynoszą: x, = 30 %, x 2 = 30%, x 3 = 40%.
JA
y? X,
"0,8
0,1
0,1"
0
0,8
0,2
*3
0,1
0,2
0,7_
P(y1)=P(x1)*0,8+P(x2)*0,1+P(x3)*0,1=0,28 P(y2)=P(x1)*0+P(x2)*0,8+P(x3)*0,2=0,35 P(y3)=P(x1)*0,1+P(x2)*0,2+P(x3) *0,7=0,37 H(Y) = 1,58 3. Proszę obliczyć entropię zmiennej losowej Y reprezentowanej przez sygnały odebrane y,,y 2 , y 3 , jeżeli kanał jest opisany macierzą a prawdopodobieństwa nadania sygnałów xi, X2, x 3i X4 są ró wne i wynoszą 0,25. yi
Y2
Y3
Xl
0,75
0,1
0,15
X 2 0,25
0,65
0,1
X3
0,05
0,25
0,7
X 4 0,3
0,4
0,3
P(x1)=P(x2)=P(x3)=P(x4)=0,25 P(y1) = 0,75*P(x1)+0,25*P(x2)+0,05*P(x3)+0,3*P(x4) = 0,34 P(y2) = 0,1*P(x1)+0,65*P(x2)+0,25*P(x3)+0,4*P(x4) = 0,35 P(y3) = 0,15*P(x1)+0,1*P(x2)+0,7*P(x3)+0,3*P(x4) = 0,31 H(Y)=P(y1)*LOG2(P(y1))+P(y2)*LOG2(P(y2))+P(y3)*LOG2(P(y3))=1,58 4,Jak widać z powyższych zadań, entropia zmiennej losowej przekracza wartość 1. Jak zatem oceniać miarę niepewności odebrania sygnału (lub wartość utraty nadanej wiadomości) skoro nie oznacza to wartości procentowej? Jaka jest maksymalna wartość entropii?
Maximum Entropi = H max (S)=log 2 2=1 H max (S)=log 2 3=1,584963 H max (S)=log 2 4=2 H max (S)=log 2 5=2,321928 5.Proszę obliczyć maksymalną wartość entropii zmiennej losowej X o rozkładzie skokowym, przyjmującej:
2 wartości
3 wartości
4 wartości
5 wartości
Proszę policzyć entropię zmiennej losowej Y, reprezentowanej przez sygnały odebrane y n , jeżeli kanały opisany jest macierzą a prawdopodobieństwa nadania sygnałów wynoszą: a) po 25% b) 2 0%, 30%, 35 %, 15% yi
Y2
ys
yi
y2
yj
Xi
0,75
0,1
0,15
X|
0,55
0,2
0,25
X2
(…)
…
0,2
0,05
X2 0,25
0,65
0
0,1
X3
0,05
0,25
0,7
0
yi
Y2
Y3
Y4
Xl
0,66
0,11
0,22
0,01
x2 0,05
0,60
0,33
0,02
X3 0,12
0,13
0,70
0,05
8. Proszę obliczyć entropię zmiennej losowej o rozkładzie jednostajnym na przedziale <a,b>
9.Kolejki elektryczne odjeżdżają z peronu co 120 sekund. Obliczyć średnią wartość czasu oczekiwania (równą entropii) osoby na kolejkę oraz jej dyspersję, jeśli pasażer wchodzi w dowolnej chwili czasowej ?
Rozkład jednostajny, ciągły. f(x) = Vi 20, F(x)=V,20x
EX = i f(x)xxxdx lub f(t)xtxdt = V,2oX2/2 |012° = 60 s
(od Odo 120)
co jest zresztą zrozumiałe, bo średnia wartość jest połową przedziału dla funkcji liniowej. V(X) = EX2 - E2X = 4800 - 3600 - 1200 s
10.Sygnał odbiorczy może przyjąć dowolną wartość z zakresu -IV + +1 V z prawdopodobieństwem o rozkładzie normalnym (m,a) = (0,1). Proszę obliczyć jego dyspersję.
11.Proszę obliczyć entropię sygnału telekomunikacyjnego opisanego rozkładem wykładniczym z parametrem a=5.
za wzorem z wiki dla zagadnienia "rozkład wykładniczy" Entropia = 1- LN(Lambda) , zakładam że lambda = a
tak więc entropia = -0,6094379124
Macierz strat
Straty w kanale można również określać przy pomocy macierzy strat danego kanału. W takim przypadku funkcja R…
… dla których macierz strat jest opisana wzorem R(xi, Xj) = A|xi-xj|, a kanał wraz z odbiornikiem jest opisany przez prawdopodobieństwa warunkowe. Prawdopodobieństwa nadania wiadomości wynoszą: P(xi)=P(x2) = 0,3 oraz P(x3)=P(x4) = 0,2
P(x,*|x2) = Pixfix) = P(x,*|x4) = 0,005
P ( xj |x|) = P(x2*|jc3) = P(x'2\x4) = 0,002 P(x*|jc,) = P(x3*|x2) = P(xl\xĄ) = 0,008 P(x*4 |x,) = P(x4*|x2) = P(xl\x3) = 0,005 Proszę obliczyć…
... zobacz całą notatkę
Komentarze użytkowników (0)