Abweichungen und Möglichkeiten in einem Multiversum?

[Geku]

Zitat von Timm

Für ein Bewusstsein trainierendes NN ist diese Vorgabe das, was Bewusstsein ausmacht. Und eben das wissen wir nicht.

Oh doch! Nichts leichter als das.

Wir Menschen besitzen Sensoren und Aktoren und beides wird in dem Trainings- oder Lernprozess eingebunden. Am Anfang müssen wir unter anderem Sehen und Gehen lernen. Dabei ist viel Training nötig. Auch die Sprache müssen wir erlernen. Dazu brauchen wir einen "Input" und ein "Feed Back" aus der Umgebung, sowie ein Gedächtnis, sonst wird's nichts. All das können auch NN.

Für mich ist Bewusstsein das Resultat der Interaktion von Information und Materie und äußert sich durch Empfindung für Gefühle. Intelligenz und Handeln benötigen Hardware, ein Gehirn oder Materie, wie man es auch bezeichnen will.

Diese Interaktionen bewirken, dass Informationen gemerkt und verändert werden, dazu benötigt es Materie, in unserem Fall, ein Gehirn.

Ich halte es für möglich, dass das Bewusstsein ab dem ersten interagierende Bit vorhanden ist, wobei natürlich die Intensivität mit der zunehmenden Komplexität wächst. Beim einem Bit existeriert nur das "Gefühl" für ja/nein ohne weiteren Sachbezug.
Ein Farbsensor hat vielleicht das Gefühl (= Bewusstsein) von rot und blau, sonst für nicht.

Ein Lichtschalter besitzt einen Informationsgehalt von einem Bit. EIN/AUS.

Der normale Benutzer weiß, durch dessen Betätigung das Licht ein bzw. wieder aus geht. Das wird ihm bei der Betätigung bewusst, mehr nicht. Einem Elektrotechniker oder Physiker wird bei der Betätigung mehr bewust. Der Stromkreis zum Kraftwerk oder die Energie, die dabei umgesetzt wird.

Wird die Interaktion von Information und Materie bzw. Gehirn geschwächt, dann trübt sich das Bewustsein auf das verbleibend Ausmaß der Interaktion ein.

Die Annahme, dass Bewusstsein mit dem ersten Bit das Licht der Welt erblickt, vereinfacht die Sicht auf das Wesen des Bewusstseins und vermeidet die Frage ab welcher Komplexität Bewusstsein zustande kommt.

[Geku]

Zitat von sirius

Und um hier gleich noch mit einem Hinweis zum Determinismus zu kommen sei angemerkt, daß von Anfang an strikt festgelegt ist, wer Königin wird.;

In den Königshäusern ist die Thronfolge auch streng im vorhinein geregelt.

[TomS]

Zitat von Timm

Die nicht-funktionalen Kriterien sind es ja gerade, die das NN lernen soll. Das Lernen beruht auf Fehlerrückführung (backpropagation), wofür die Vorgabe eines zu erreichenden Zieles Voraussetzung ist. Für ein Schach trainierendes NN ist diese Vorgabe die Maximierung der Bewertung. Für ein Bewusstsein trainierendes NN ist diese Vorgabe das, was Bewusstsein ausmacht. Und eben das wissen wir nicht.

Das ist beim Menschen doch auch irrelevant. Niemand wird konkret mittels eines Lernalgorithmus speziell auf Bewusstsein trainiert. Menschen hatten wahrscheinlich bereits ein Bewusstsein, bevor sie auf einer Metaebene begannen, darüber nachzudenken. Die wesentlichen biologischen Merkmale (mit Ausnahme von Gehirnmasse und der Verschaltung) haben sich in den letzten Jahrtausenden wohl nicht derart geändert, dass Bewusstsein gerade darauf zurückzuführen sein dürfte.

Das Gehirn empfängt Signale von Sinnesorganen und reagiert mit extern sichtbaren Aktionen; im Gehirn laufen biochemische Reaktionen ab. Mehr wissen wir nicht sicher. Über Evolution und Training (Erziehung) ist das emergente Phänomen Bewusstsein entstanden - soweit die Hypothese.

Eine vergleichbare Hypothese stellt man nun bzgl. eines künstlichen Bewusstseins auf.

Frage: welche speziell auf das Bewusstsein zugeschnittenen Lern- oder andere Mechanismen siehst du denn beim Menschen?

Zitat von Timm

Wenn wir uns einig sind, dass wir das nicht wissen, weshalb sind wir uns dann nicht einig, dass ein NN Bewusstsein nicht lernen kann?

Wir sind uns einig, dass wir das nicht wissen.

Zunächst ein logisch: wenn wir dies nicht wissen, bleiben offenbar mehrere Optionen; es gibt dann keinen logischen Grund, warum wir uns auf genau eine davon einigen müssten.

Ich formuliere die Hypothese, dass die bekannten Prozesse, Interaktionen und Rückkopplungen beim Menschen ausreichend für die Emergenz von Bewusstsein sind. Eine äquivalente Hypothese formuliere ich für KIs.

Frage: was wäre denn deine Antithese?

Zitat von Timm

Ehrlich gesagt verstehe ich nicht was du hier sagen willst.

Diese Aussage "1. Aus dieser Hypothese resultiert einerseits eine naturwissenschaftliche Auffassung von Bewusstsein, wobei sich andererseits dessen - aus subjektiver Sicht hochrelevanten - rein introspektiv zugänglichen Aspekte prinzipiell der wissenschaftlichen Methode der objektiven Testbarkeit entziehen." halte ich für gewagt.
Worin besteht "der naturwissenschaftliche Anspruch", wenn die "naturwissenschaftliche Auffassung von Bewusstsein" sich messen lassen muss an dem worüber wir uns einig sind: wir wissen es nicht.

Das hatte ich schon mehrfach versucht zu erklären erklärt, siehe z.B.

Zitat von TomS

Unter der plausiblen Annahme, dass Bewusstsein aus Biochemie entsteht, ist der Ansatz, das Modell des Bewusstseins auf ein Modell biochemischer Prozesse zurückzuführen, wiederum plausibel ...

Es ist natürlich zu Beginn nicht klar, ob die o.g. Hypothese vollumfänglich trägt. Und es ist ziemlich sicher klar, dass selbst wenn sie funktional trägt, dennoch die rein introspektiv erfahrbaren Bewusstseinsphänomene wie mentale Zustände nicht oder nur teilweise erfassbar werden ...

M.a.W.: das Modell bzw. die Theorie ist naturwissenschaftlich, insofern sie ausschließlich auf bekannten Mechanismen der Physik und Biochemie basiert; die Theorie ist insofern unwissenschaftlich im Sinne Poppers, als sie bzgl. der rein introspektiv erfahrbaren Aspekte des Bewusstseins nicht falsifizierbar ist (sie ist außerdem nicht verifizierbar).

Zitat von TomS

D.h. es könnte die paradox anmutende Situation entstehen, dass man tatsächlich ein vollständig [naturwissenschaftliches] Modell des Verstandes entwickelt hat, das ohne weiteres Zutun ... von selbst Bewusstsein entwickelt ... Allerdings fehlt immer noch unsere Einsicht in die mentalen Zustände dieses ... Bewusstseins ... Dies ... ist m.E. der entscheidende limitierende Faktor.

Zum Vergleich: viele naturwissenschaftliche Theorien enthalten nicht testbare Vorhersagen (für das innere Schwarzer Löcher gelten bestimmte Vorhersagen und mathematische Theoreme der ART; jenseits des kosmischen Horizontes gelten die bekannten physikalischen Gesetze; die Viele-Welten-Interpretation folgt mittels Schrödingergleichung und speziell Dekohärenz)

Zitat von Timm

Bei 6. scheinst du davon auszugehen, "künstliches Bewusstsein" sei gesetzt. Das sehe ich aus den genannten Gründen nicht so.

Rein von der Abfolge her ...

5. ... entsprächen diese KIs (inklusive ihrem hypothetischen Bewusstsein)
6. ... auf Basis einer zweiten Hypothese - der mathematischen Äquivalenz von biologischem und künstlichen Bewusstsein - ...

... baut (6) auf (5) auf.

Zitat von TomS

Ich hoffe, die Thematik "Abgleich" nun hinreichend geklärt zu haben. Hier sehe ich den Dissens.

Ok, verstanden. Habe ich oben nochmal versucht zu beantworten.

Zusammenfassend: ich sehe keinen expliziten Abgleich, kein explizites Training, keine spezifischen Mechanismen und keine objektive Beobachtung d.h. keinen Test bzgl. Anwesenheit von von Bewusstsein.

Frage: hältst du du diesen Ansatz für eine Sackgasse? warum? was fehlt dir? oder bist du lediglich der Meinung, das wir letztlich nichts interessantes über das Bewusstsein lernen, weil es sich unserer objektiven Beobachtung entzieht?

Warum ist das mein Ansatz?

• er ist schlank im Sinne von Ockham
• er ist technisch sehr konkret
• ich wüsste nicht, was ich konkret ändern sollte
• er behandelt biologisches und künstliche Intelligenz und Bewusstsein möglichst analog
• er ist bei weitem nicht ausgereizt (z.B. bzgl. der Größe der NNs und der Sensorik/Aktorik)
• er enthält offenbar unerforschte Weiten, in denen durchaus Platz für Bewusstsein sein sollte (negativ könnte man auch von unerforschbaren Weiten sprechen)

[TomS]

Zitat von Geku

Für mich ist Bewusstsein das Resultat der Interaktion von Information und Materie und äußert sich durch Empfindung für Gefühle. Intelligenz und Handeln benötigen Hardware, ein Gehirn oder Materie, wie man es auch bezeichnen will.

Diese Interaktionen bewirken, dass Informationen gemerkt und verändert werden, dazu benötigt es Materie, in unserem Fall, ein Gehirn.

Das alles sind Merkmale oder Beispiele von Bewusstsein - dabei werden die meisten zustimmen - jedoch keine trennscharfe und präzise Definition.

Zitat von Geku

Die Annahme, dass Bewusstsein mit dem ersten Bit das Licht der Welt erblickt, vereinfacht die Sicht auf das Wesen des Bewusstseins und vermeidet die Frage ab welcher Komplexität Bewusstsein zustande kommt.

Hier bleibt "Bewusstsein" doch nur eine leere Worthülse. Ich halte es für redlicher, zuzugeben, dass wir keine präzise und wissenschaftliche Definition kennen.

[Geku]

Zitat von TomS

Das alles sind Merkmale oder BeispieleHier bleibt "Bewusstsein" doch nur eine leere Worthülse. Ich halte es für redlicher, zuzugeben, dass wir keine präzise und wissenschaftliche Definition kennen.

Vielleicht macht gerade die Einfachheit des Bewusstsein die Definition so schwierig:

Bewusstsein ist die Interaktion von Information und Materie und äußert sich durch Empfindung von Gefühlen

Was spricht für diese Definition des Bewusstseins:

• ist nur dem Träger zugänglich und erfahrbar
• ist rein subjektiv
• ist nicht mit Intelligenz gleichzusetzen
• erfüllt die Anforderung von Ockham, einer möglichst einfachen Erklärung
• setzt das menschliche Gehirn nicht in den Mittelpunkt, schließt andere Plattformen nicht aus
• steht mit Libet-Experiment im Einklang, dass das Bewusstsein, unbewussten Prozessen nachhingt

Und was spricht gegen diese Definition?

[TomS]

Das sind Eigenschaften, Merkmale, mögliche Bedingungen usw., aber keine Definitionen; jedenfalls nehme ich mein Bewusstsein völlig anders war.

[Geku]

Zitat von TomS

Das sind Eigenschaften, Merkmale, mögliche Bedingungen usw., aber keine Definitionen; jedenfalls nehme ich mein Bewusstsein völlig anders war.

Und wie?

[TomS]

Zitat von Geku

Und wie?

Gute Frage. Ggw. nehme ich mein Bewusstsein wahr als Betrachten und Diskutieren von oder nachdenken über bestimmte Fragestellungen im Zusammenhang mit Bewusstsein. Dabei stelle ich fest, dass ich irgendwie um das Thema kreise, jedoch nicht zu einem Ergebnis komme. Dieses bewusste Reflektieren ist gerade Gegenstand meines Bewusstseins.

[Timm]

Es scheint, wir reden aneinander vorbei. Das würde ich gerne klären, bevor wir uns in weitere Details verstricken.

Es geht um die Frage, wie schaffen wir künstliches Bewusstsein.

Deine Aussage war:

Zitat von TomS

Der Ansatz, Bewusstsein zu modellieren, sind z.B. zunehmend mächtige RNNs. Wenn das Bewusstsein ein vollständig emergentes Phänomen ist, dann genügt möglicherweise bereits dieser Ansatz für einfache und spezialisierte KIs, um bei ausreichender Komplexität des NNs Bewusstsein entstehen zu lassen. Das Bewusstsein wird also nicht Konsequenz eines neuen Konstruktionsprinzips sondern ausschließlich Konsequenz der Komplexität des NNs.

Meine Aussage war:

Zitat von Timm
Die nicht-funktionalen Kriterien sind es ja gerade, die das NN lernen soll. Das Lernen beruht auf Fehlerrückführung (backpropagation), wofür die Vorgabe eines zu erreichenden Zieles Voraussetzung ist. Für ein Schach trainierendes NN ist diese Vorgabe die Maximierung der Bewertung. Für ein Bewusstsein trainierendes NN ist diese Vorgabe das, was Bewusstsein ausmacht. Und eben das wissen wir nicht.

Und hierzu schreibst du

Zitat von TomS

Das ist beim Menschen doch auch irrelevant. Niemand wird konkret mittels eines Lernalgorithmus speziell auf Bewusstsein trainiert.

Das ist ja richtig aber damit negierst du, dass das menschliche Gehirn über riesige Zeiträume hinweg durch unzählige evolutionäre Lernprozesse Bewusstsein erlangt hat. So ist doch die Annahme.

Offenbar nimmst du an ("Das Bewusstsein wird also nicht Konsequenz eines neuen Konstruktionsprinzips sondern ausschließlich Konsequenz der Komplexität des NNs.), dass künstliches Bewusstsein schon emergieren wird, wenn man das NN bzw. das RNN mit der gesamten Funktionalität füttert. Habe ich dich da richtig verstanden?
Falls das so ist, wie soll das künstliche Bewusstsein emergieren, quasi bereits durch die eingegebene Funktionalität? Dann genügt ein entsprechend mächtiger Algorithmus, denn zu lernen gibt's nicht mehr.
Oder emergiert Bewusstsein durch Lernprozesse? Ein selbst lernendes NN erfordert für die Funktion backreaction Sollausgaben (Zielwerte). Welche wären das?

Vielleicht konnte ich zeigen wo wir wohl nicht einig sind. Wenn nicht, schwindet die Hoffnung.

[Timm]

Zitat von Bernhard

Das nicht, aber man könnte einem NN Kriterien für das eigene Überleben, d.h. die eigene Existenz beibringen, und dann dürfte es schon spannend werden. Eventuell lässt sich das Bewußtsein im Groben ja auf solche Überlegungen reduzieren.

EDIT: Sollte es sich bei diesem Clip Neuer Roboter macht Soldaten überflüssig (Corridor Digital) um kein Fake handeln, wäre man bei Boston Dynamics wohl ansatzweise schon dabei Algorithmen zur Bewertung der eigenen Sicherheit und damit auch der Existenz zu implementieren.

Ich weiß ehrlich gesagt nicht, was ich von diesem Clip halten soll.

Kriterien für das eigene Überleben? Erfordert das nicht die Implementierung von Gefühlen? In diesem Fall Angst?