[TomS]

Zitat von Timm

Es scheint, wir reden aneinander vorbei. Das würde ich gerne klären, bevor wir uns in weitere Details verstricken.

Gut.

Zitat von Timm

Es geht um die Frage, wie schaffen wir künstliches Bewusstsein.

Genauer: was sind die notwendigen Voraussetzungen für künstliches Bewusstsein.

Zitat von Timm

Meine Aussage war:

Die nicht-funktionalen Kriterien sind es ja gerade, die das NN lernen soll. Das Lernen beruht auf Fehlerrückführung (backpropagation), wofür die Vorgabe eines zu erreichenden … Für ein Bewusstsein trainierendes NN ist diese Vorgabe das, was Bewusstsein ausmacht.

Und genau das bestreite ich. Genauer: ich stelle die Hypothese auf, dass Bewusstsein resultiert, auch wenn Training, Bewertungsfunktion und Backpropagation nicht genau darauf ausgerichtet sind; zur Begründung führe ich das Bewusstsein des Menschen an,

• das ohne dieses auf Bewusstsein ausgerichtete Training entstanden ist
• das sich nur in der Introspektion besonders “anfühlt”, jedoch auf exakt der selben Hardware entstanden ist und nach den selben Mechanischen funktioniert wie andere Funktionen des menschlichen Verstandes.

Zitat von Timm

Das ist ja richtig aber damit negierst du, dass das menschliche Gehirn über riesige Zeiträume hinweg durch unzählige evolutionäre Lernprozesse Bewusstsein erlangt hat.

Das negiere ich keineswegs. Das menschliche Gehirn hatte länger Zeit für evolutionäre Anpassung, es erhält einen viel umfangreicheren und vielfältigeren Input, es verfügt über deutlich mächtigeren Handlungsmöglichkeiten, die Population ist größer u.a.m. Umgekehrt evolvieren und lernen NNs deutlich schneller als menschliche Gehirn.

Ich bestreite nur, dass es da einen qualitativen Unterschied gibt. Ich stelle die Hypothese auf, dass NNs prinzipiell alle notwendigen Voraussetzungen für Bewusstsein mitbringen, und dass es lediglich einer geeigneten Skalierung bedarf.

Zitat von Timm

Offenbar nimmst du an ("Das Bewusstsein wird also nicht Konsequenz eines neuen Konstruktionsprinzips sondern ausschließlich Konsequenz der Komplexität des NNs.), dass künstliches Bewusstsein schon emergieren wird, wenn man das NN bzw. das RNN mit der gesamten Funktionalität füttert.

Mit welcher Funktionalität füttert? Es wird nicht gefüttert, es soll lernen, zunehmend komplexere Aufgaben erfüllen, zunehmend mächtigere Sensorik und Aktorik erhalten usw.

Zitat von Timm

Oder emergiert Bewusstsein durch Lernprozesse? Ein selbst lernendes NN erfordert für die Funktion backreaction Sollausgaben (Zielwerte). Welche wären das?

Ja. Zumindest im Falle des Menschen emergiert Bewusstsein durch Interaktion mittels Sensorik und Aktorik und Lernprozesse, implementiert auf (evolutionär) optimierter Hardware. Welche Aufgaben und Zielwerte? Guter Punkt, können wir diskutieren.

Zitat von Timm

Vielleicht konnte ich zeigen wo wir wohl nicht einig sind.

Ich denke, ich sehe alle deine Probleme auch, ich bewerte sie nur anders. Ich weiß nicht, wie mächtig NNs werden müssen und wie lange das dauern wird. Aber ich sehe nach wie vor keine essentielle Zutat, die ich vergessen hätte. Du eigtl. auch nicht, zumindest benennst du sie nicht. Oder ist das der qualitativ neue Aspekt:

Zitat von Timm

Für ein Bewusstsein trainierendes NN ist diese Vorgabe das, was Bewusstsein ausmacht.

Frage: was wäre diese Vorgabe im Falle des menschlichen Bewusstseins? Wäre das nicht ein Anhaltspunkt dafür, was bei der KI / den NNs fehlt?

Was ich von dir verstehe ist, dass du die Aufgabe als extrem schwierig ansiehst, aber keinen prinzipiellen Einwand formulierst. Auch da wären wir uns einig; ich bin nicht sicher, ob der Ansatz tatsächlich zu bewussten KIs führt, und ich bin außerdem nicht sicher, dass wir diesen Weg gehen sollen. Ich bin mir aber ziemlich sicher, dass wir an einer bewussten KI nicht ihr Bewusstsein bemerken würden, sondern ihre funktionale Überlegenheit.