[Timm]

Zitat von TomS

Ich glaube übrigens gar nicht, dass wir so weit auseinanderliegen. Wir diskutieren über Details und Missverständnisse, die m.E. nicht kriegsentscheidend sind.

Offenbar sind wir uns zur Thematik "Abgleich" (erster Satz meiner letzten Antwort) nicht einig, wenn du hier schreibst:

Zitat von TomS

Der Ansatz, Bewusstsein zu modellieren, sind z.B. zunehmend mächtige RNNs. Wenn das Bewusstsein ein vollständig emergentes Phänomen ist, dann genügt möglicherweise bereits dieser Ansatz für einfache und spezialisierte KIs, um bei ausreichender Komplexität des NNs Bewusstsein entstehen zu lassen. Das Bewusstsein wird also nicht Konsequenz eines neuen Konstruktionsprinzips sondern ausschließlich Konsequenz der Komplexität des NNs.

Die nicht-funktionalen Kriterien, die das Bewusstsein ausmachen, fließen dabei gerade nicht in die Konstruktion ein. Ja, sie sind in Teilen wohl ausschließlich der Introspektion zugänglich und daher nicht objektiv testbar, aber aufgrund der Emergenz muss man sie nicht unbedingt kennen, um Bewusstsein entstehen zu lassen.

Die nicht-funktionalen Kriterien sind es ja gerade, die das NN lernen soll. Das Lernen beruht auf Fehlerrückführung (backpropagation), wofür die Vorgabe eines zu erreichenden Zieles Voraussetzung ist. Für ein Schach trainierendes NN ist diese Vorgabe die Maximierung der Bewertung. Für ein Bewusstsein trainierendes NN ist diese Vorgabe das, was Bewusstsein ausmacht. Und eben das wissen wir nicht.
Wenn wir uns einig sind, dass wir das nicht wissen, weshalb sind wir uns dann nicht einig, dass ein NN Bewusstsein nicht lernen kann?
Anders gefragt, was bezweckst du, wenn weder diese "nicht-funktionalen Kriterien, die das Bewusstsein ausmachen" einfließen noch eine Ziel-Vorgabe, was Bewusstsein als Resultat tatsächlich ausmacht? Diese Kriterien sind es ja gerade, die das NN erlernen soll um Bewusstsein zu generieren.

Ehrlich gesagt verstehe ich nicht

Zitat von TomS

OK, ein naheliegender Ansatz ist also, das übliche Lernen im NN mittels Backpropagation und Anpassung einzelner Parameter mit dem Entwurf des NNs "im Großen" zu kombinieren. Letzteres kann vollständig äquivalent auf ausschließlich ersteres abgebildet werden, allerdings wäre das hoffnungslos ineffizent.

was du hier sagen willst.

Zitat von TomS

Zusammenfassend:

1. Der wesentliche Ansatz ist Emergenz von Bewusstsein auf Basis bereits bekannter Mechanismen der Biochemie oder der Informatik.
2. Das wesentliche Problem ist die Tatsache, dass das Phänomen Bewusstseins in Teilen ausschließlich der Introspektion zugänglich ist.
3. Die zentrale Hypothese lautet, dass auf Basis dieser bekannten Mechanismen bewusste Entitäten - biologische Organismen oder sogenannte künstliche Intelligenzen - entstehen können, wobei die Fitness dieser Entitäten anhand ihrer Aktionen in ihrer Umgebung bewertet werden kann, gewisse nur introspektiv zugängliche Teilaspekte des Bewusstseins jedoch nicht.
4. Aus dieser Hypothese resultiert einerseits eine naturwissenschaftliche Auffassung von Bewusstsein, wobei sich andererseits dessen - aus subjektiver Sicht hochrelevanten - rein introspektiv zugänglichen Aspekte prinzipiell der wissenschaftlichen Methode der objektiven Testbarkeit entziehen.
5. Speziell im Falle von KIs auf Basis von RNNs o.ä. entsprächen diese KIs (inklusive ihrem hypothetischen Bewusstsein) beweisbar den universellen Turingmaschinen, mathematisch letztlich Algorithmen; beide wären aufgrund der Gödelschen Unvollständigkeitssätze beweisbar nicht in der Lage, ihre eigenen Algorithmen (inklusive ihres Bewusstseins) vollumfänglich zu erfassen und zu verstehen.
6. Auf Basis einer zweiten Hypothese - der mathematischen Äquivalenz von biologischem und künstlichen Bewusstsein - folgt ein zweiter Grund für die prinzipielle Unmöglichkeit des vollständigen Verständnisses unseres Bewusstseins.

Diese Aussage "1. Aus dieser Hypothese resultiert einerseits eine naturwissenschaftliche Auffassung von Bewusstsein, wobei sich andererseits dessen - aus subjektiver Sicht hochrelevanten - rein introspektiv zugänglichen Aspekte prinzipiell der wissenschaftlichen Methode der objektiven Testbarkeit entziehen." halte ich für gewagt.
Worin besteht "der naturwissenschaftliche Anspruch", wenn die "naturwissenschaftliche Auffassung von Bewusstsein" sich messen lassen muss an dem worüber wir uns einig sind: wir wissen es nicht.

Es ist interessant, dass du Gödel erwähnst. In "I am a strange loop" erwähnt Douglas Hofstadter dessen Unvollständigkeitssatz in Zusammenhang mit Bewusstsein und dem Ich: An "I" is a strange loop in a brain ... . Details habe ich vergessen, das war 2007.

Bei 6. scheinst du davon auszugehen, "künstliches Bewusstsein" sei gesetzt. Das sehe ich aus den genannten Gründen nicht so.

Ich hoffe, die Thematik "Abgleich" nun hinreichend geklärt zu haben. Hier sehe ich den Dissens.