[Uli]

Hamilton hat ja schon etliche, gute Hinweise gegeben, noch ein bisschen ergänzend dazu ...
Ein Kommutator zweier Größen A und B ist ganz allgemein in der Mathematik definiert als

[A,B] = AB - BA

Der Kommutator gewöhnlicher Zahlen verschwindet (ist gleich 0), da die gewöhnliche Multiplikation kommutativ ist.
In der Quantentheorie werden aber physikalische Größen durch Operatoren dargestellt, die auf Zustände wirken. Bei Schrödinger sind dies Differentialoperatoren, die auf Wellenfuntionen wirken; bei Heisenberg sind es Matrizen, die auf Spaltenvektoren wirken.
Solche Operatoren kommutieren nicht mehr zwangsläufig, wie man sich leicht anhand von Differentialoperatoren oder Matrizen klar machen kann (siehe auch Hamiltons Post für Impuls- und Orts-Operatoren in der Ortsdarstellung).

In der Quantenmechanik sind die Kommutatoren solcher Operatoren i.a. wiederum Operatoren. Der Erwartungswert so eines Kommutator-Operators gibt die minimale Unschärfe zweier solcher Größen an.

Man kann zeigen, dass Operatoren, deren Kommutator verschwindet, einen gemeinsamen Satz von Eigenfunktionen haben, d.h. wenn

[A,B] = 0

dann gibt es Zustände |n> derart, dass

A |n> = a |n> und B |n> = b|n> ist

Dabei sind a und b keine Operatoren sondern Zahlen - die Eigenwerte dieser Operatoren. Die Eigenwerte kommutierender Observabler (physikalischer Größen) spielen in der Quantentheorie die Rolle von scharfen Messwerten; solche Observablen sind somit simultan messbar.

In der Quantenfeldtheorie spielen übrigens auch Anti-Kommutatoren eine große Rolle

{A,B} = AB + BA

und zwar bei der Beschreibung von Fermion-Feldern (Spin 1/2 - Teilchen), wogegen bei Bosonen wiederum die Kommutatoren zum Zuge kommen.

Aber ich fürchte, die Diskussion solcher Formalismen sprengt den Rahmen dieses Forums.

Gruss, Uli