Hi Hamilton
Es gibt hier den fundamentalen Unterschied, dass du nicht Koordinaten einer Funktion suchst, die ein Extrema aufweisen, sonder gesucht ist eine passende Funktion, die diese Summe minimiert . Wenn p(i) keine diskrete sondern kontinulierliche Verteilung waere und die Summe damit ein Integral, waere dies ein typisches Variationsproblem.
http://itp.tugraz.at/LV/schnizer/Ana...ik/node13.html
EDIT
Die Loesung von Sino zeigt eine andere Interpretation. Hey prima.
Dennoch mal die Varainte wenn p(i) eine kontinuierliche Funktion waere, die zum
selben Resultat fuehrt.
Fuer F(p(i), p(i)/di, i ) (normalereise der Index t statt i)
muesste p(i) die Eulersche Differentialgleichung des Variationsproblems erfuellen :
d/di *dF/d(dp/di) - dF/dp = 0
**********************
Wobei bis auf d/di die Ableitungen partiell sind.
Im konkreten Fall gilt :
F(p) =-p(i) ln(p(i)
Es kommt also kein dp/di als Funktionsargument vor.
Und nur daher kann man die Aufgabe wie eine gewoehnliche Extremwertaufgabe behandeln.
Zitat:
und dann überlege man sich die Nebenbedingung.
Diese gilt generell für alle Wahrscheinlichkeitsverteilungen.
|
Die Nebenbedingung waere, dass Summe(aller p(i))=1
Man bildet die Funktion :
sowie deren Eulerschen DGL :
Man sieht auch die Nebenbedingung enthaelt kein dp(i)/di
damit :
NEBENBEDINGUNG:
Summme(p(i),i=0..k)-1=0
+F=-p*ln(p)-l1 (Summme(p(i),i=0..k)-1)
dF/dp=-ln(p)-1-l1 (Summme(1,i=1..k))=0
1) ln(p)+1+l1*k=0
aus dF/dl1
2) (Summme(p(i),i=0..k)=1
Aus 1 folgt p(i)=konstant
aus 2) folgt p(i)=1/k