[Timm]

Es scheint, wir reden aneinander vorbei. Das würde ich gerne klären, bevor wir uns in weitere Details verstricken.

Es geht um die Frage, wie schaffen wir künstliches Bewusstsein.

Deine Aussage war:

Zitat von TomS

Der Ansatz, Bewusstsein zu modellieren, sind z.B. zunehmend mächtige RNNs. Wenn das Bewusstsein ein vollständig emergentes Phänomen ist, dann genügt möglicherweise bereits dieser Ansatz für einfache und spezialisierte KIs, um bei ausreichender Komplexität des NNs Bewusstsein entstehen zu lassen. Das Bewusstsein wird also nicht Konsequenz eines neuen Konstruktionsprinzips sondern ausschließlich Konsequenz der Komplexität des NNs.

Meine Aussage war:

Zitat von Timm
Die nicht-funktionalen Kriterien sind es ja gerade, die das NN lernen soll. Das Lernen beruht auf Fehlerrückführung (backpropagation), wofür die Vorgabe eines zu erreichenden Zieles Voraussetzung ist. Für ein Schach trainierendes NN ist diese Vorgabe die Maximierung der Bewertung. Für ein Bewusstsein trainierendes NN ist diese Vorgabe das, was Bewusstsein ausmacht. Und eben das wissen wir nicht.

Und hierzu schreibst du

Zitat von TomS

Das ist beim Menschen doch auch irrelevant. Niemand wird konkret mittels eines Lernalgorithmus speziell auf Bewusstsein trainiert.

Das ist ja richtig aber damit negierst du, dass das menschliche Gehirn über riesige Zeiträume hinweg durch unzählige evolutionäre Lernprozesse Bewusstsein erlangt hat. So ist doch die Annahme.

Offenbar nimmst du an ("Das Bewusstsein wird also nicht Konsequenz eines neuen Konstruktionsprinzips sondern ausschließlich Konsequenz der Komplexität des NNs.), dass künstliches Bewusstsein schon emergieren wird, wenn man das NN bzw. das RNN mit der gesamten Funktionalität füttert. Habe ich dich da richtig verstanden?
Falls das so ist, wie soll das künstliche Bewusstsein emergieren, quasi bereits durch die eingegebene Funktionalität? Dann genügt ein entsprechend mächtiger Algorithmus, denn zu lernen gibt's nicht mehr.
Oder emergiert Bewusstsein durch Lernprozesse? Ein selbst lernendes NN erfordert für die Funktion backreaction Sollausgaben (Zielwerte). Welche wären das?

Vielleicht konnte ich zeigen wo wir wohl nicht einig sind. Wenn nicht, schwindet die Hoffnung.