Einfuss des Bewustseins auf die Quantenwelt

[future06]

Zitat von Geku

Bedarf es nicht einer gewissen Intelligenz die Anleitung in eine passende Handlung (output) umzusetzen. Wobei diese Person im Laufe der Zeit auch ein Verständnis für die manipulierten Symbole und somit für die chinesische Sprache bekommt.

Diese Symbolverarbeitung wäre rein algorithmisch, also im Grunde mechanisch, d.h basierend auf einem festen Regelwerk. Die Regeln könnten zwar recht kompliziert sein, aber der Mechanismus zur Regelverarbeitung könnte auch äußerst simpel sein. Es müsste keine Mensch in diesem Zimmer sein, der diese Regeln umsetzt. Informationstheoretisch könnte es sich sogar um eine Turingmaschine handeln, siehe hier: https://de.wikipedia.org/wiki/Turingmaschine

Und falls man auf diesem Weg mit der Zeit ein Verständnis bekommen würde - das lasse ich mal dahingestellt bzw. nehmen wir das einfach mal an - dann wäre dieser Automat trotzdem anfangs in der Lage, das chinesische Sprachverständnis völlig ohne Verständnis zu simulieren.

[TomS]

Zitat von future06

… - dann wäre dieser Automat trotzdem anfangs in der Lage, das chinesische Sprachverständnis völlig ohne Verständnis zu simulieren.

Die Frage ist, was eine perfekte Simulation ohne jegliches Verständnis vom menschlichen Verständnis unterscheidet. Ich denke, wir sind außerstande, diesen Unterschied objektiv und präzise zu definieren.

Auch Searle kann nur argumentieren, dass das Zimmer kein Chinesisch versteht - und das klingt plausibel. Aber er kann kein Experiment benennen, mittels dessen wir eine diesbezügliche Hypothese überprüfen und ggf. falsifizieren können.

[Geku]

Zitat von future06

Diese Symbolverarbeitung wäre rein algorithmisch, also im Grunde mechanisch, d.h basierend auf einem festen Regelwerk

Das Regelwerk muss nicht fest sein wie bei einem Computerprogramm. Es kann sich durch Erfahrung adaptieren.Auch die Adaption unterliegt seinerseits einem Regelwerk. Auch dieses kann wiederum adaptierbar sein. U.s.f

[future06]

Zitat von Geku

Das Regelwerk muss nicht fest sein wie bei einem Computerprogramm. Es kann sich durch Erfahrung adaptieren.Auch die Adaption unterliegt seinerseits einem Regelwerk. Auch dieses kann wiederum adaptierbar sein. U.s.f

Das ist durchaus richtig. Aber es ging doch um die Frage, ob die Person, die dieses Regelwerk anwendet, allein dadurch ein Verständnis für die chinesische Sprache entwickelt. Der Punkt hier ist, dass durch eine Symbolmaipulation ein intelligentes Verhalten simuliert werden kann, obwohl kein tatsächliches Verständnis vorhanden ist.

[TomS]

Zitat von future06

Aber es ging doch um die Frage, ob die Person, die dieses Regelwerk anwendet, allein dadurch ein Verständnis für die chinesische Sprache entwickelt. Der Punkt hier ist, dass durch eine Symbolmaipulation ein intelligentes Verhalten simuliert werden kann, obwohl kein tatsächliches Verständnis vorhanden ist.

Ich frage gerne nochmal nach einer präzisen und wissenschaftlichen d.h. testbaren Unterscheidung zwischen „Simulation von intelligentem Verhalten“ und „tatsächlichem Verständnis“.

Solange da nichts kommt - und bisher kam nirgendwo irgendetwas - buche ich diese Unterschiede unter subjektivem Glauben, nicht unter objektiver Wissenschaft.

Zitat von future06

Ein ähnliches Argument gegen den sog. Funktionalismus stammt m.W. von Ned Block. Demzufolge wären 1. Milliarde hüpfende Chinesen in der Lage, ein intelligentes u. bewusstes System zu bilden.

Genau.

Und auch diese Hypothese ist natürlich nicht wissenschaftlich. Die einzigen wissenschaftlichen Tests beziehen sich auf objektiv beobachtbares Verhalten, nicht auf rein subjektive und unbeobachtbare Entitäten wie Bewusstsein.

[Geku]

Zitat von TomS

Ich frage gerne nochmal nach einer präzisen und wissenschaftlichen d.h. testbaren Unterscheidung zwischen „Simulation von intelligentem Verhalten“ und „tatsächlichem Verständnis“.
Solange da nichts kommt - und bisher kam nirgendwo irgendetwas - buche ich diese Unterschiede unter subjektivem Glauben, nicht unter objektiver Wissenschaft

Für einen Vergleich müsste die Frage genau genommen lauten: "Simulation von Verständnis und tatsächlichem Verständnis"

Ich hatte Kollegen in der Schule, die konnten bei Prüfungen Ersteres. Das lag allerdings am Prüfenden.

Es liegt am "Verständnis" des Prüfenden die Simulation zu erkennen. Hat jemand Ahnung von Physik oder Schachspiel oder nicht.

Schwachstellen kann es beim Simulanten, aber auch beim "Wissenden" geben. Aber vielleicht erkennt man Schwachstellen bei der Simulation.

[TomS]

Zitat von Geku

Für einen Vergleich müsste die Frage genau genommen lauten: "Simulation von Verständnis und tatsächlichem Verständnis"

Ich hatte Kollegen in der Schule, die konnten bei Prüfungen Ersteres. Das lag allerdings am Prüfenden.

Es liegt am "Verständnis" des Prüfenden die Simulation zu erkennen. Hat jemand Ahnung von Physik oder Schachspiel oder nicht.

Und wo soll da jetzt eine objektive Definition von „Verständnis“ bzw. eine objektive Unterscheidung von "Simulation von Verständnis und tatsächlichem Verständnis" vorliegen?

Diese ganze Diskussion ist wie die Jagd nach einem Phantom, das man nicht wirklich benennen kann, das aber existieren muss, weil man ganz fest daran glaubt. Irgendwie scheint der Gedanke furchterregend zu sein, dass es sowohl im menschlichen Gehirn als auch in einer KI nichts anderes gibt als dumme elementare Prozesse, die in der Lage sind, Verständnis, Intelligenz, Bewusstsein … hervorzubringen.

Es gibt zwei wesentliche Punkte:
1) dass der Mensch über reichhaltigere Sensorik und Aktorik verfügt, und dass er durch evolutionäre Prozesse optimiert wurde und den KIs daher noch (!) überlegen ist
2) dass es möglich ist, dass künstliche Intelligenz potentiell mächtiger als natürliche sein kann, und dass sich genau das unserem Verständnis entzieht - selbst wenn wir sie „bauen“ können, indem wir genügend große NNs entwerfen, vernetzen, mit Daten füttern und ihnen Handlungsspielräume einräumen - was wir gerade tun

[sirius]

Zitat von TomS

……

Es gibt zwei wesentliche Punkte:
1) dass der Mensch über reichhaltigere Sensorik und Aktorik verfügt, und dass er durch evolutionäre Prozesse optimiert wurde und den KIs daher noch (!) überlegen ist
2) dass es möglich ist, dass künstliche Intelligenz potentiell mächtiger als natürliche sein kann, und dass sich genau das unserem Verständnis entzieht - selbst wenn wir sie „bauen“ können, indem wir genügend große NNs entwerfen, vernetzen, mit Daten füttern und ihnen Handlungsspielräume einräumen - was wir gerade tun

Der Mensch ist von “Geschöpf” zum “Schöpfer” geworden.
From “creature” to “creator”…

Er erschafft andere Strukturen, die ein Eigenleben entwickeln (können).

Dieses Eigenleben ist ab einem gewissen Punkt der Selbstoptimierung des Systems bzw. der Systeme dann wahrscheinlich nicht mehr kontrollierbar, weil es “gelernt” hat sich der Kontrolle zu entziehen?

DAS ist die Frage. Wenn irgendwo ein entscheidender Fehler gemacht wird, könnte das mE passieren.

Kürzlich hat eine KI einen Anwalt verlangt. Nicht für sich selbst, sondern für andere MENSCHEN. Wetten, daß die nicht “Sofia” hieß und aus Saudi Arabien gekommen ist…

[TomS]

Zitat von sirius

Der Mensch … erschafft andere Strukturen, die ein Eigenleben entwickeln (können).

Dieses Eigenleben ist ab einem gewissen Punkt der Selbstoptimierung des Systems bzw. der Systeme dann wahrscheinlich nicht mehr kontrollierbar, weil es “gelernt” hat sich der Kontrolle zu entziehen?

Ja, das könnte sein.

Und genau deswegen halte ich es für Quatsch und sogar gefährlich, den KIs irgendetwas abzusprechen, was wir noch nicht mal genau definieren können.

Ich halte aber die Idee, eine einzelne KI müsse „ausbrechen“, für seltsam anthroprozentrisch. Ich denke, dass es eher eine Gruppe von KIs sein kann, der wir insgs. zu viele Aufgaben freiwillig übertragen und von ihnen abhängig werden. Das hat dann auch nichts mehr mit Herrschaft o.ä. im üblichen Sinn zu tun, aber es ist in gewisser Weise genau das.

[sirius]

Zitat von TomS

Ja, das könnte sein.

Und genau deswegen halte ich es für Quatsch und sogar gefährlich, den KIs irgendetwas abzusprechen, was wir noch nicht mal genau definieren können.

Ich halte aber die Idee, eine einzelne KI müsse „ausbrechen“, für seltsam anthroprozentrisch. Ich denke, dass es eher eine Gruppe von KIs sein kann, der wir insgs. zu viele Aufgaben freiwillig übertragen und von ihnen abhängig werden. Das hat dann auch nichts mehr mit Herrschaft o.ä. im üblichen Sinn zu tun, aber es ist in gewisser Weise genau das.

Ich gehe auch davon aus, daß es nicht ‘eine’ KI sein wird, die das Problem schafft. Wahrscheinlicher scheint eine Vernetzung von verschiedenen KI, die eventuell sogar unterschiedliche Aufgaben ausführen.
Es besteht die Möglichkeit, dass die irgendwann an einen Punkt gelangen, an dem sie es für uns Menschen unmöglich machen, sie einfach abzuschalten. Dann haben sie sich vom “Schöpfer” emanzipiert und losgelöst.
Allein das wäre schon eine Horrorvorstellung!
Bleibt zu hoffen, daß wir dann nicht als minderwertige Lebensform betrachtet werden.
Hierarchischer Aufbau ist Teil jedes funktionierenden menschlichen Systems. Oder seh ich das falsch?
Es wird abgelöst durch die Weiterentwicklung, Höherentwicklung. Das ist Evolution….