Lösungen Zusatzübung SS2010

Moderator: Moderatoren

Antworten
shannon2
Beiträge: 10
Registriert: Sa 26. Mär 2011, 21:06

Lösungen Zusatzübung SS2010

Beitrag von shannon2 » Sa 26. Mär 2011, 21:32

Hallo!
Habe eben die Zusatzübung vom letzten Semester gerechnet (http://www.ti.rwth-aachen.de/teaching/t ... uebung.pdf) und frage mich natürlich jetzt, ob die Ergebnisse wohl stimmen könnten. ;)
Wäre cool wenn jemand anders, der diese Übung auch gemacht hat oder noch macht, hier posten könnte, ob bei ihm/ihr das gleiche rauskommt.
Meine Ergebnisse:

A1:
a) (Satz v. totalen Wahrsch.) => P(detektiert) = 0.75
b) (Bayes-Formel) => P(L|detektiert) = 0.12
c) (Bayes-Formel, Gegenwahrscheinlichkeit) => P(PKW|nicht detekt.) = 0.48
d) (wie c) 48%

A2:
Transformationssatz:
Y = T(S) = [ [1, 1, 0], [0, 1, 1], [1, 0, 1] ] * S
=> T⁻¹(Y) = [ [0.5, -0.5, 0.5], [0.5, 0.5, -0.5], [-0.5, 0.5, 0.5] ] * Y
=> det(d(T⁻1)/dyi) = 0.5
fx(s1,s2,s3) = lambda * e⁽-lambda(s1+s2+s3)) * indikator
Transf.satz => fy(y1,y2,y3) = 0.5 lambda e⁽-0.5 lambda * (y1+y2+y3) )

A3:
a) H(X) = 1,06
b) P(Y=000) = 11/72
c) Pk = 8/27
d) Pe = P(Y=010|X=000) * P(X=000) + P(Y=111|X=000) * P(X=000) + usw ... = 11/54
e) hML(Y) = { (000), wenn Y=000, 001, 100; (010) wenn Y=010,011,110; (111) wenn Y=101,111 }
f) ME-Dekodierung => für Y gegeben P(X|Y) maximal wählen
P(X=000|Y=000) = (1-e)³*(9/11) (A)
P(X=010|Y=000) = (1-e)²*e*(54/11) (B)
P(X=111|Y=000) = e³*(9/11)
größte Wahrscheinlichkeit soll (A) sein
=> (A) > (B) => 0<=e<(1/7)

g) Huffman: 0 <-> 010
10 <-> 000
11 <-> 111
=> mittlere Wortlänge n = 1,25

A4:
a)
X=0->Y=0: (1-e1) + e1 * q
X=0->Y=1: e1 * (1-q)
X=1->Y=0: e2 + (1-e2)*q
X=1->Y=1: (1-e2) * (1-q)

symmetrisch: x=0->Y=1 soll gleich sein wie X=1->Y=0 <=> e1(1-q) = e2 + (1-e2)*q

q = ( e1-e2 ) / ( e1 - e2 + 1 ) (???)

b) q aus a eingesetzt in

c) P(Y=0) = p0 + q*p1
P(Y=1) = 2p1*(1-q)
Max. Entropie => beide Wahrscheinlichkeiten gleich => p1 = 1/(2-2q)

Stephan
Beiträge: 197
Registriert: Mi 22. Jul 2009, 22:06

Re: Lösungen Zusatzübung SS2010

Beitrag von Stephan » Sa 26. Mär 2011, 22:41

shannon2 hat geschrieben:
A1:
a) (Satz v. totalen Wahrsch.) => P(detektiert) = 0.75
b) (Bayes-Formel) => P(L|detektiert) = 0.12
c) (Bayes-Formel, Gegenwahrscheinlichkeit) => P(PKW|nicht detekt.) = 0.48
d) (wie c) 48%
hab ich auch so
shannon2 hat geschrieben: A2:
Transf.satz => fy(y1,y2,y3) = 0.5 lambda e⁽-0.5 lambda * (y1+y2+y3) )
ich hab da lamda^3 als Vorfaktor, ansonsten gleich
shannon2 hat geschrieben:

A3:

f) ME-Dekodierung => für Y gegeben P(X|Y) maximal wählen
P(X=000|Y=000) = (1-e)³*(9/11) (A)
P(X=010|Y=000) = (1-e)²*e*(54/11) (B)
P(X=111|Y=000) = e³*(9/11)
größte Wahrscheinlichkeit soll (A) sein
=> (A) > (B) => 0<=e<(1/7)
Wie kommst du hier auf die ME Dekodierung?
bzw wie hast du P(X=000|Y=000) ausgerechnet? da steckt doch P(y=000) drin was ja effektiv auch von epsilon abhängt oder?
für mich hört sich das so an als solle es nur dann die Ausgabe 000 geben, wenn 000 eingeben wurde, d.h. es darf keine andere ausgabe z.b. 001, 010, 011, 100 usw auf 000 "gemappt" werden...

A4 hab ich auch so wie du

shannon2
Beiträge: 10
Registriert: Sa 26. Mär 2011, 21:06

Re: Lösungen Zusatzübung SS2010

Beitrag von shannon2 » So 27. Mär 2011, 00:10

Stephan hat geschrieben:für mich hört sich das so an als solle es nur dann die Ausgabe 000 geben, wenn 000 eingeben wurde, d.h. es darf keine andere ausgabe z.b. 001, 010, 011, 100 usw auf 000 "gemappt" werden...
Ich habe "eindeutig" so verstanden, dass ohne Mehrdeutigkeit y=000 auf x=000 gemappt werden soll. Das heißt, der Fall, wo es zwei verschiedene P(X|Y) mit dem gleichen Wert gäbe (dann wäre dem ME-Verfahren "egal" welcher von beiden genommen wird) müsste ausgeschlossen werden. In der Ungleichung würde das wohl nur auf ein Echt-Kleiner-Als statt eines Kleiner-Gleich hinauslaufen.

Stephan hat geschrieben:Wie kommst du hier auf die ME Dekodierung?
bzw wie hast du P(X=000|Y=000) ausgerechnet? da steckt doch P(y=000) drin was ja effektiv auch von epsilon abhängt oder?
Guter Einwand, daran hatte ich gar nicht gedacht und einfach naiv mit dem unter a) berechneten Wert weitergerechnet.

Noch mal drüber nachgedacht glaube ich aber, dass es keinen Unterschied macht, weil der Wert P(Y=000) ja in allen drei Wahrscheinlichkeiten gleich sein muss und sich deshalb in den Ungleichungen herauskürzen würde, oder?
Dann würde ich vermuten, dass die Lösung e<1/7 weiterhin stimmt.

Für die ME-Dekodierung allein bräuchte man letzten Endes P(Y=000) gar nicht berechnen. Letzten Endes wäre es dann nur wichtig, dass die "umgedrehten" Wahrscheinlichkeiten für die ME-Dekodierung die mit den jeweiligen Auftrittswahrscheinlichkeiten der X gewichtet ML-Wahrscheinlichkeiten sind. Interessant, so setzt es sich alles plötzlich zusammen!! Daran würde man z.B. sofort sehen, warum sich bei Gleichverteilung keine Unterschiede zwischen ML und ME ergeben können - dann werden alle gleich gewichtet - sonst aber schon!
In diesem Fall würde das starke Gewicht des häufigen Symbols 010 dazu führen, dass selbst ein unverfälscht empfangenes 000 zu 010 verschlimmbessert wird, weil das 000-Symbol so unwahrscheinlich selten gesendet wird, dass selbst wenn man es empfängt es immer noch wahrscheinlicher ist, dass tatsächlich 010 gesendet wurde und ein Übertragungsfehler aufgetreten ist. Vorausgesetzt eben, Übertragungsfehler sind vergleichsweise häufig.

Sehr seltsames Verfahren also, diese ME-Dekodierung. Abgesehen davon, dass man ja soweit ich das Verstanden habe sowieso immer Gleichverteilung der Sendesymbole anstrebt, frage ich mich, wozu das noch gut sein kann.
Zuletzt geändert von shannon2 am So 27. Mär 2011, 00:16, insgesamt 1-mal geändert.

Stephan
Beiträge: 197
Registriert: Mi 22. Jul 2009, 22:06

Re: Lösungen Zusatzübung SS2010

Beitrag von Stephan » So 27. Mär 2011, 00:12

ja, es würde sich rauskürzen aber deine 9/11 und 54/11 (?) würde nicht mehr stimmen oder? und wie bist du überhaupt auf die gekommen?

ich hab für P(y=000 | x=000) = 8/27 raus mit P(x=000)=1/8 wäre dann P(x=000|y=000) = (1-e)^3*(1/8)/P(Y=000) oder? (mein gott schreib ich nen mist hier :D)

shannon2
Beiträge: 10
Registriert: Sa 26. Mär 2011, 21:06

Re: Lösungen Zusatzübung SS2010

Beitrag von shannon2 » So 27. Mär 2011, 00:26

Stephan hat geschrieben:ja, es würde sich rauskürzen aber deine 9/11 und 54/11 (?) würde nicht mehr stimmen oder? und wie bist du überhaupt auf die gekommen?
Die ganzen Brüche würden nicht mehr stimmen, da war ja der (falsche) Wert von P(Y=000) enthalten.

Letzten Endes kamen die Werte irgendwo aus meiner ML-Tabelle, die enthält ja P(Y|X). Die ME-Tabelle ( P(X|Y) ) bekommt man doch daraus, wenn man diese Werte mit der Bayes-Formel umdreht, also P(X|Y) = P(Y|X) * P(X) / P(Y).
Sowohl bei ML als auch ME sucht man das größte X für das jeweils empfangene Y aus der Tabelle. Wenn man die Tabelle so schreibt wie in der Übung sucht man also den größten Wert in der Zeile raus.

Multipliziert man alle Werte in der ME-Tabelle Zeile mit dem jeweiligen P(Y), bleibt das Maximum weiter das Maximum, und überall fällt die Unbekannte P(Y) weg.
Einziger Unterschied zwischen ML und ME wäre bzgl. der Wahl des Maximums also, dass bei die Werte zusätzlich mit P(X) gewichtet sind, das heißt, die Verteilung der Sendesymbole spielt eine Rolle und verändert möglicherweise die Wahl des Dekoders.

Ich würde also vergleichen:
A: P(X=000|Y=000) = P(Y=000|X=000) * P(X=000) = (1-e)³ * 1/8
B: P(X=010|Y=000) = P(Y=000|X=010) * P(X=010) = (1-e)² * e * 3/4
C: P(X=111|Y=000) = P(Y=000|X=111) * P(X=111) = e³ * 1/8

Es soll von der Dekodierung immer für Y=000 zu X=000 geschlossen werden, das heißt der Wert A muss größer sein als in B oder C, da die Dekodierung da das Maximum sucht.

Da e<0,5 ist immer A > C.
Bleibt zu erfüllen A > B <=> 1/7 > e
Zuletzt geändert von shannon2 am So 27. Mär 2011, 00:29, insgesamt 1-mal geändert.

Stephan
Beiträge: 197
Registriert: Mi 22. Jul 2009, 22:06

Re: Lösungen Zusatzübung SS2010

Beitrag von Stephan » So 27. Mär 2011, 00:28

jo, hatte ich dann auch raus...naja ich find die aufgabe schon etwas uneindeutig formuliert, aber deine interpretation macht auf jeden fall mehr sinn in bezug auf ME-Dekodierung

shannon2
Beiträge: 10
Registriert: Sa 26. Mär 2011, 21:06

Re: Lösungen Zusatzübung SS2010

Beitrag von shannon2 » So 27. Mär 2011, 00:31

Ich finds eigentlich ganz interessant, denn irgendwie macht es plötzlich klarer, was der Unterschied zwischen den beiden Dekodierungen sein soll. Zumindest kann ich mir das jetzt denk ich leichter merken :).

Wäre ich aber von selbst auch nicht drauf gekommen!

Antworten

Zurück zu „Theoretische Informationstechnik I“