Entropie und Information

[RoKo]

Hallo zusammen,

nur die Thermodynamik unterscheidet zwischen reversiblen und irreversiblen Prozessen, weil nur die Thermodynamik auch zwischen spontan ablaufenden und nicht spontan ablaufenden Prozessen unterscheidet.

Irreversible Prozesse sind in der Thermodynamik dadurch definiert, dass sie die Entropie erhöhen.

Irreversibel bedeutet nicht zwingend vollständig irreversibel! Es gibt viele Chemische Reaktionen, bei denen zugleich auch die Umkehrreaktion stattfindet. Im Gleichgewicht stellen sich dann bestimmte Verhältnisse ein.

Betrachtet man z.B. den spontanen Neutronenzerfall, muss man auch die zufällige Neubildung berücksichtigen. Ein isoliertes System wird daher nie völlig Neutronenfrei sein.

Ein Spezialfall stellt eine Mischung dar. Auch hier wird das Gleichgewicht nie 100% durchmischt sein und es wäre ein zeitlicher Mittelwert zu bilden. Im theoretischen Fall eines völlig idealen mechanischen Systems könnte auch kurzzeitig eine vollständige Entmischung vorliegen. Nach den Boltzmannschen Abschätzungn sollte dies allerdings nur alle 10^10^10 Jahre der Fall sein.

Aus der theoretischen Sicht der Physik ist die Tendenz zum thermodynamischen Gleichgewicht nur die Tendenz zur höheren Wahrscheinlichkeit. In der Ingenieurspraxis spielt es schon deshalb keine Rolle, weil der Unterschied zwischen dem 2.Hauptsatz als phänomenologisches Gesetz und seiner statischen Interpretation jenseits von Nachweisgrenzen ist.

[Ich]

Aus der theoretischen Sicht der Physik ist die Tendenz zum thermodynamischen Gleichgewicht nur die Tendenz zur höheren Wahrscheinlichkeit.

Hmm... soll das heißen, du hast's eingesehen? Das wäre mal eine positive Überraschung.

[RoKo]

Hallo Ich,

ich pflege grundsätzlich, in Debatten meine Position zu schärfen. Wenn ich etwas eingesehen habe, dann vor allem dies:

Wenn Physiker im Zusammenhang mit der Thermodynamik von "höherer Wahrscheinlichkeit" reden, dann meinen sie eigentlich etwas ganz anderes, nämlich mehr Möglichkeiten bzw. mehr mögliche Mikrozustände. Der 2.Hauptsatz muss also lauten:
Die Anzahl der möglichen Mikrozustände bleibt entweder gleich oder sie erhöht sich.
Letzteres ist immer irreversibel. Wenn wir einen irreversiblen Prozess A -> Z haben, dann bilden wir W(A) Mikrozustände auf W(Z) Mikrozustände ab. Diese Abbildung ist wegen W(A) < W(Z) nicht bijektiv. Zermelos Wiederkehrargument ist also falsch.

Darüber hinaus habe ich auch folgendes gelernt:

Die Anzahl der möglichen Mikrozustände ist die Informationsmenge, die möglichen Mikrozustände selbst sind die Bedeutung dieser Informationsmenge.

[Ich]

ich pflege grundsätzlich, in Debatten meine Position zu schärfen.

...und grundsätzlich nie zu überdenken, verstehe. Schade, ich hatte fast schon gehofft, mich in dir getäuscht zu haben. Aus deinem vorigen Beitrag folgt ja eigentlich direkt, dass du dich von deinem Unsinn

Bereits nach dieser kurzen Entwicklung befindet sich das System im thermischen Gleichgewicht und in den Urzustand kann es nicht mehr zurück, weil dass dem 2.Hauptsatz widersprechen würde. Zwar ist das nach der o.a. Vorschrift nicht verboten, aber wie bei allen physikalischen Prozessen ist der 2.Hauptsatz stets als zusätzliche Bedingung zu beachten.

Angesichts der empirischen Erfahrung, das physikalische Gesetze in einer komplexen Wirklichkeit nur eine näherungsweise Vorhersage erlauben, weil sie notwendigerweise auf idealisierten Annahmen beruhen, halte ich das Wiederkehrargument für äussert schwach und die determinierende Gültigkeit des 2.Hauptsatzes für wahrscheinlicher.

distanziert hättest. Was ich dir nicht zugetraut hätte, nach meinen Erfahrungen mit ähnlich gestrickten "Debattierern". Ich würde da echt gerne mal falsch liegen.
Naja, kann man nicht ändern.

[RoKo]

Aber Hallo Herr Oberlehrer,

hast du deine Formalqualifikation in der Lotterie gewonnen? Du must erst einmal lernen, die Mikroebene und die Makroebene auseinanderzuhalten. Der Zusammenhang wird wesentlich durch S= k*ln W hergestellt. Wenn also von Entropie die Rede ist, dann ist von der Makroebene die Rede. Wenn du also in deinem Trivialbeispiel von einer Entropiedifferenz redest, dann redest du von einem Makrosystem. In diesem Trivialbeispiel findet aber kein Entropiefluss mehr statt; um diesen ging es aber in meinem vorhergehenden Beitrag (Stichwort Leben). Deshalb hatte ich ein minimal-Universum eingeführt, für das man dann, wenn man Dynamik zeigen will, auch minimal-Naturgesetze definieren muss. usw.

Immer dann, wenn ich von Äpfeln rede, kommst du mit Birnen, um deine Vorurteile bestätigt zu sehen. Du bist schlicht unfähig, auf Argumente einzugehen.

[Bauhof]

Zitat von RoKo

Aber Hallo Herr Oberlehrer, hast du deine Formalqualifikation in der Lotterie gewonnen?

Hallo RoKo,
Hallo ICH,

bitte unterlasst doch beide künftig die persönlich Anspielungen. Beschränkt euch auf das Sachliche. Falls euer Ton noch schärfer wird, fände ich es schade, wenn ich deswegen diesen Thread schließen müsste.

M.f.G. Eugen Bauhof

[RoKo]

1. Die Hauptsätze der Thermodynamik sind in jedem Fall gültig, unabhängig von ihrer Herleitung oder Begründung. Etwas anderes ist noch nie beobachtet worden.

2. In der Thermodynamik sind die Mikrozustände eines Systems unwichtig; wichtig ist nur die Anzahl ihrer Variationen.

3. Die Anzahl der Variationen kann nur gleich bleiben oder sich erhöhen.

4. Die Anzahl der Variationen ist keine Grenze für die in einem phzsikalischen System gebundenen Informationen, sondern eine Grenze für mögliche Datensätze (z.B. Phasenraumpunkte), die weitere Informationen enthalten.

5. Die Shannon-Entropie betrachtet den möglichen Informationsverlust bei der Übertragung freier Informationen mittels Symbolvariationen.

6. Freie Information hat stets auch Bedeutung.

7. In der digitalen Datenverarbeitung erfolgt die Festlegung der Bedeutung durch Typdefinitionen. Typen können auch strukturierte Typen zugewiesen werden. Ebenso können Variable auch Index-Variable sein, die auf Datensätze verweisen. (Diese Auflistung erhebt keinen Anspruch auf Vollständigkeit)

8. Will man also bestimmen, wieviel gebundene Informationen das Universum enthält, dann muß man zunächst die Bedeutung der einzelnen Variationen bestimmen; d.h. jeder Variante einen konkreten physikalischen Mikrozustand zuordnen, dessen gebundene Information bestimmen und anschliessend über alle Variationen summieren.

9. Zufällig gleiche Inhalte von Datenspeichern können völlig unterschiedliche Bedeutung haben.

[Hawkwind]

Zitat von RoKo

1. Die Hauptsätze der Thermodynamik sind in jedem Fall gültig, unabhängig von ihrer Herleitung oder Begründung. Etwas anderes ist noch nie beobachtet worden.

2. In der Thermodynamik sind die Mikrozustände eines Systems unwichtig; wichtig ist nur die Anzahl ihrer Variationen.

3. Die Anzahl der Variationen kann nur gleich bleiben oder sich erhöhen.
...

Das gilt - wie gesagt - nicht in "jedem Fall" aber extrem gut für "Makrozustände": je größer die Anzahl von Mikrokomponenten im System um so unwahrscheinlicher werden "Fluktuationen" zu Zuständen mit einer niedrigeren Anzahl zugänglicher Mikrozustände, sodass sie für makroskopische Systeme praktisch ausgeschlossen werden können.


Das alles wird sehr detailliert und kompetent z.B. hier

http://www.keck.ucsf.edu/~schenk/P35...s/Lecture4.ppt

diskutiert.

Daraus eine Übungsaufgabe für den geneigten Leser: "Ist es wirklich wahr, dass die Entropie eine isolierten Systems niemals abnimmt? Diskutieren Sie ein System aus 2 sehr kleinen Einstein-Festkörpern. Warum gilt diese Aussage akkurater für große als für kleine Systeme?"

Die Antwort geben die Diagramme auf Seite 5 dort.

Gruss,
Hawkwind

[RoKo]

Hallo Hawkwind,

danke für den Link,

Zitat von Hawkwind

Das gilt - wie gesagt - nicht in "jedem Fall" aber extrem gut für "Makrozustände": je größer die Anzahl von Mikrokomponenten im System um so unwahrscheinlicher werden "Fluktuationen" zu Zuständen mit einer niedrigeren Anzahl zugänglicher Mikrozustände, sodass sie für makroskopische Systeme praktisch ausgeschlossen werden können.

1. Fluktuationen lassen sich nie ganz ausschliessen und unendliche Genauigkeit ist eine Illusion. Das ist praktische Erfahrung.

Wenn ich mir ein großes System mit N=10^23 denke und es in viele Partitionen mit N=15 unterteilt denke, dann ist in diesem Rahmen (mittlere Gaußkurve S.5) eine statistische Schwankung durchaus vorstellbar. Diese rein statistische Betrachtung führt dann allerdings dazu, dass ich zwar praktisch einen Entropierückgang ausschliessen kann, theoretisch jedoch nicht, weil die Wahrscheinlichkeit zwar gegen null tendiert, aber niemals (bzw. nur im Unendlichen) null wird.

2. Die Frage ist daher, ob es nicht durch zusätzliche Betrachtungen möglich ist, dies auch theoretisch auszuschliessen.

Bei einem rein klassisch mechanischem System kann ich mir für jede Variation einen Punkt im Phasenraum vorstellen. Bei einer irreversiblen Änderung erhöht sich die Anzahl der Variationen und damit die Anzahl der Phasenraumpunkte. Ich vermute, da gibt es keinen Weg zurück. Streng beweisen kann ich es aber nicht.

[RoKo]

Zitat von Ich

.. dass auch ein Mensch sich nur in einer endlichen Anzahl verschiedener Zustände befinden kann.

1. Die möglichen Mikrozustände eines Menschen sind für seinen thermodynamischen Makrozustand uninteressant. Es kommt einzig auf die Anzahl der möglichen Variationen von Mikroständen an.

2. Der thermodynamische Makrozustand des Trägers eines Informationsverarbeitungsprozesses ist völlig uninteressant, solange die Funktionsfähigkeit nicht beeinträchtigt wird.

3. Der allgemeine Prototyp eines Trägers für Informationsverarbeitungsprozesse ist eine Turing-Maschine. Trotz absolut "spartanischer" Ausstattung mit möglichen Zuständen ist eine Turing-Maschine in doppelter Hinsicht potentiell unendlich. Zum eine kann das Band beliebig lang sein, zum anderen können beliebig viele unterschiedliche Bänder (Programme) eingesetzt werden.

4. Menschliche Gehirne sind leistungsfähiger als Turing-Maschinen.