|
Quantenmechanik, Relativitätstheorie und der ganze Rest. Wenn Sie Themen diskutieren wollen, die mehr als Schulkenntnisse voraussetzen, sind Sie hier richtig. Keine Angst, ein Physikstudium ist nicht Voraussetzung, aber man sollte sich schon eingehender mit Physik beschäftigt haben. |
|
Themen-Optionen | Ansicht |
|
#1
|
|||
|
|||
Entropie in der Informationstheorie
Paul Davies beschreibt in So baut man eine Zeitmaschine unter der Überschrift So holt man Wissen aus dem Nichts ein interessantes Paradoxon:
Die folgende Parabel illustriert das verblüffendste aller Paradoxa von Zeitreisen. Ein Professor baut im Jahr 2005 eine Zeit- maschine und beschließt, in das Jahr 2010 in die Zukunft zu reisen (hier gibt es kein Problem). Nach seiner Ankunft macht er die Universitätsbibliothek ausfindig und überfliegt die aktuellen Zeitschriften. In der mathematischen Abteilung bemerkt er ein brillantes neues Theorem und notiert sich dessen Einzelheiten. Dann kehrt er in das Jahr 2005 zurück, ruft einen intelligenten Studenten zu sich und schildert ihm das Theorem in Umrissen. Der Student setzt sich hin, bringt Ordnung in den Gedankengang, schreibt eine Arbeit und veröffentlicht sie in einer Fachzeitschrift für Mathematik. Es war natürlich genau diese Zeitschrift, in der der Professor 2010 den Aufsatz gelesen hatte. Auch hier gibt es keinen Widerspruch: Die Geschichte enthält eine konsistente kausale Schleife, weshalb strenggenommen kein Paradoxon vorliegt, sondern einfach nur eine sehr absonderliche Angelegenheit. Das Problem bezieht sich vielmehr auf den Ursprung der Information. Wo stammte das Theorem ursprünglich her? Nicht von dem Professor, denn der hat es lediglich in der Zeitschrift gelesen. Von dem Studenten jedoch auch nicht, da er es von dem Professor bekam. Es scheint, als wäre die Information über das Theorem einfach aus dem Nichts aufgetaucht. Gibt es in der Informationstheorie einen Entropiesatz, der ein informationelles Perpetuum Mobile verbietet? |
#2
|
||||
|
||||
AW: Entropie in der Informationstheorie
Für die Entropie steht der eindeutig gerichtete Zeitpfeil.
Das Superpositionsprinzip stellt für jeden beliebigen Messzeitpunkt nur eine mögliche Ortsrealisierung zur Verfügung. Sämtliche Erhaltungssätze wären verletzt. Das Paulische Ausschließungsprinzip ermöglicht im Kehrschluss genau einen Aufenthalt pro Messung. Die Beobachtung steht ausschließlich für: "SF ist SF, bleibt SF!" Die Vernunft sagt: "Danke, ich hab heut schon geschmunzelt!" Gruß Uranor
__________________
Es genügt nicht, keine Gedanken zu haben. Man sollte auch fähig sein, sie auszudrücken. |
#3
|
|||
|
|||
AW: Entropie in der Informationstheorie
Hi...
Ich behaupte, der Information ist die Entropie piepegal!! Sie ist immer schon dagewesen, wie und wo man sie findet spielt keine Rolle, solange man den Ort betreten kann, wo man sie erhält(außer, das man vielleicht nicht die letztendlichen Konsequenzen ermessen kann, die so ein Informationserhalt mit sich bringt. Vielleicht baut ja jemand damit versehentlich eine Weltvernichtungsmaschine, weil er denkt, er würde einen prima atomgetriebenen Entsafter bauen) JGC |
#4
|
||||
|
||||
AW: Entropie in der Informationstheorie
Wäre die Welt entsaftbar, wäre sie von den Dinos damals in der Not ausgesaugt worden... Ein atombetriebener Weltentsafter? Diene lustige Phanthasie ist unüberbietbar.
__________________
Es genügt nicht, keine Gedanken zu haben. Man sollte auch fähig sein, sie auszudrücken. |
#5
|
|||
|
|||
AW: Entropie in der Informationstheorie
Hör mal EMI
Wenn du mich nur für blöde verkaufen willst, dann sprich nicht mit mir. OK? JGC zum Nachlesen... http://de.wikipedia.org/wiki/Entropie Ge?ndert von JGC (19.06.08 um 10:08 Uhr) |
#6
|
|||
|
|||
AW: Entropie in der Informationstheorie
Ich habe nen Extra-Anfertigung-Entsafter, dazu muß ich euch mal wieder die Vorgeschichte erzählen. . Also es war so, es war ein sonniger Tag, viel zu sonnig, um an Melonen zu denken, die Sonne knallte runter (mit 9.58c), was passiert, wenn es zu sonnig ist? klar, man hat Durst. Ich stellte fest, dass eine ganz Melone nicht in den Entsafter passte, klar, ich rief Johnny an, er erledigte das, nun passen 3 ganze Melonen rein.
gruss rafiti |
#8
|
|||
|
|||
AW: Entropie in der Informationstheorie
Fortschreitende Auflösung der Ordnung?
Ich könnte ja einen Wiki-Link jetzt hinschreiben, aber wozu... JGC |
#9
|
||||
|
||||
AW: Entropie in der Informationstheorie
Die Entropie ist in der Informationstheorie sowas wie der Erwartungswert der Information.
Nach Tukey ist Information I = -log p, wobei die Basis erstmal egal ist und für die Einheit steht (ist sie 2, dann hat I die Einheit Bit, ist sie e, dann nennt man das "nats") p ist hier die Wahrscheinlichkeit mit der ein Ereignis eintritt. Hat man z.B. eine Münze, dann ist die Kopf-W'keit 1/2, damit ist die Info aus einem Münzwurf genau 1 Bit. Aus 10 Würfen können sich 2^10 Möglichkeiten ergeben, da die W'keit für jeden Wurf 1/2 bleibt, ist die Information = - log (1/2^10) = 10 bit. Mit jedem Münzwurf steigt die Information an. Ist die W'keit für ein Ereignis 1, dann kann ich den Prozess so oft realisieren, wie ich will, die Information bleibt 0 (da schon vorher klar ist, wie das Ergebnis sein wird) Der Informationsbegrif aus der Inf.Theorie ist also was ganz anderes als unser alltäglicher Gebrauch des Wortes Information. Er sagt nämlich nichts über die Verwertbarkeit von Information aus, sondern eher etwas über die "Überrschung" über ein Ereeignis. Die Überraschung über ein Ereignis, dass sicher eintritt (I = -log (1) = 0) ist null, wärend die Information, dass ein total seltendes/unwahrscheinliches Ereignis eingetreten ist, sehr groß ist. Die (Shannon-)Entropie ist der Erwartungswert der Information, H = - SUMME { p log p } Sie kann interpretiert werden als Unsicherheit über den Ausgang eines Zufallsexperimentes (deren Verteilung man kennt). Betrachten wir z.B. zwei User eines Internetforums. Der eine schreibt immer das selbe und benutzt oft die gleichen Wörten (z.B. "Einstein, doof, falsch, unlogisch ...), der andere neigt nicht zu Polemik, schreibt deshalb nur, wenn es etwas interessantes zu sagen gibt, wiederholt sich nicht ständig und benutzt auch einen reicheren Wortschatz. Jetzt kann man z.B. ein Histogramm anfertigen über alle Wörter, die die beiden benutzt haben- ein Historgramm ist ja ein Schätzer für die W'keiten der Wörter, also hat man p(wort) für beide und kann die Entropie ausrechnen. Dabei wird sich vermutlich ergeben, dass der zweite User eine deutlich höhere Entropie hat als der erste, was bedeutet, dass er mehr Information generiert. Wenn ich die beiden also nicht selbst kenne, sondern nur ihre Entropien, würde ich zweifellos eher die Beiträge von User Nr.2 lesen. (Ein dritter User, der rein zufällige Nonsenswörter schreibt, wie ghkgfhk etc... und dabei eine große Vielfalt walten lässt, hätte zweifellos eine noch viel höhere Entropie, also Vorsicht bei der Interpretation) Wie man das jetzt mit der Zeit zusammenbringt und deine Frage beantwortet überlasse ich jetzt den anderen. Ich bin der Meinung, dass für das, was dich eigentlich interessiert, die Entropie dich nicht weiter bringt.
__________________
"Wissenschaft ist wie Sex. Manchmal kommt etwas Sinnvolles dabei raus, das ist aber nicht der Grund, warum wir es tun." Richard P. Feynman
|
#10
|
|||
|
|||
AW: Entropie in der Informationstheorie
Vielen Dank, Hamilton, für die ausführliche Antwort.
Zitat:
Der eigentliche Grund für meine Frage ist nicht Davies Beispiel, sondern ein Argument von Karl Popper gegen die These "die Welt ist mein Traum". Er argumentiert sinngemäß: Wenn ich eine Schallplatte mit Bachs Kunst der Fuge auflege, dann wäre diese Fuge die Schöpfung meines Geistes, wäre die These "die Welt ist mein Traum" wahr. Wenn ich dagegen versuche, eine Fuge im Stile von J.S.Bach zu schreiben, stelle ich fest, daß ich nicht dazu in der Lage bin. Poppers Argument ist vielfach kritisiert worden, weil es plausibel aber logisch nicht zwingend ist. Er selbst hält weder den Idealismus noch den Realismus für beweisbar. Ich denke aber, daß in Poppers Argument noch mehr steckt, nämlich der Hinweis darauf, daß wäre die These "die Welt ist mein Traum" wahr, Information aus dem Nichts entstehen müßte. |
Lesezeichen |
|
|