KI - Gefahr, Herausforderung, Chance?

[Geku]

Zitat von TomS

Wie gesagt, das ist sekundär.

Möglicherweise hast du recht, dass der Computer keine echte Intelligenz und kein Bewusstsein entwickeln kann, weil er konstruktionsbedingt die Reaktionen des Gegners nur eingeschränkt und die der Zuseher überhaupt nicht beobachtet und verarbeitet. Und möglicherweise verhält es sich tatsächlich so, dass der Computer echte Intelligenz und kein Bewusstsein entwickeln wird, wenn man diese Beschränkungen aufhebt. Ich will dir da gar nicht widersprechen.

Das Substrat für Bewustsein muß nicht die Biochemie sein. Es war für die Evolution nur der einfachere wahrscheinlicherer Weg.

Letztendlich kann Bewustsein im Universum nur überleben, wenn dieses auf ein robusteres Substrat überwechselt und das ist statt Kohlenstoff Silizium ohne wässriger Basis.

[Geku]

Zitat von TomS

Diese Argumente laufen alle ins Leere, wenn wir annehmen, dass wir gar nicht präzise wissen, was genau Bewusstsein wirklich ist. Ganz platt gesprochen könnte es sein, dass das Verständnis von Bewusstsein gerade der blinde Fleck des Bewusstseins ist. Damit sind sämtliche Hypothesen zum Bewusstsein in gewisser Weise inhaltsleer, da ein Gegenstand der Hypothesen nicht präzise definiert ist. Wir werden sie aus diesen Gründen nie testen können.

Ich würde die Definition auf einen kurzen Satz bergrenzen: Sich seiner Existenz bewust sein

und nicht mehr.


Gehirndefekte und Split Brain Patienten bringen mehr Licht in diese Frage.

Z.B. welche Schäden müssen auftreten um das Gefühl des Hörens zu verlieren?

Ludwig van Beethoven konnte noch komponieren obwohl er komplett taub wurde.
Manche Läsionen führen zum kompletten Verlust des Gehörsinns, man weiß dann nicht was hören überhaupt ist. Vergleichbar mit dem "Blinden Fleck".

[Geku]

Zitat von TomS

Dein Argument ist höchstens quantitativ: der Schachcomputer bezieht nicht genügend viele Sensordaten und Umgebungsinformationen mit ein, und seine Outputs sind nicht umfangreich genug, seine Handlungsoptionen nicht ausreichend. Das sind jedoch keine Argumente bzgl. der Definition des Wesens von Bewusstsein sondern "nur" bzgl. der Voraussetzungen für dessen Entstehung.

Ich glaube da liegt das Missverständnis. Ich meinte, dass der Schachcomputer mit seinen Sensoren nicht in der Lage ist, neue Information abseits des Schachfeldes zu erfassen und daraus neue Reaktionen zu generieren.

Das Bewustsein ist ständig auf der Suche nach Neuem.

Auf einer anderen, höheren Ebene werden, zu Routine werdende Inputs und Outputs ins Unterbewustsein verschoben und vom Bewustsein nicht mehr wahrgenommen. Erst Abweichung werden uns wieder bewust. Das zeigt wie wichtig die Einflüsse der Umwelt auf unser Bewustsein sind.

[TomS]

Zitat von Geku

Ich glaube da liegt das Missverständnis. Ich meinte, dass der Schachcomputer mit seinen Sensoren nicht in der Lage ist, neue Information abseits des Schachfeldes zu erfassen und daraus neue Reaktionen zu generieren.

Ja, deinerseits.

Genauso gut könnte ich sagen, der menschliche Organismus ist mit seinen Sensoren nicht in Lage, neue Informationen im Röntgenbereich abseits des bisherigen Spektrums zu erfassen.

Du konzentrierst dich zu sehr auf quantitative Limitierungen, von denen du ex post annimmst, sie wären relevant. Wir wissen lediglich, dass Bewusstsein ohne diese Limitierungen entstehen konnte, aber auch, dass es trotz anderer Limitierungen entstanden ist.

Ich bestreute das alles gar nicht. Ich bestreute aber, dass wir dadurch das Wesen des Bewusstseins erfassen können.

Zitat von Geku

Auf einer anderen, höheren Ebene werden, zu Routine werdende Inputs und Outputs ins Unterbewusstsein verschoben und vom Bewusstsein nicht mehr wahrgenommen. Erst Abweichung werden uns wieder bewusst. Das zeigt wie wichtig die Einflüsse der Umwelt auf unser Bewusstsein sind.

Alles richtig.

Das sind singuläre Beispiele für unbewusste und bewusste Prozesse, die jedoch nicht den Kern des Bewusstseins definieren oder vollumfänglich erfassen.

Stell' dir vor, du möchtest jemandem aus dem achtzehnten Jahrhundert das Wesen des Autos beschreiben. Du erklärst ihm alles über die Räder und Reifen, Sitze, das Lenkrad ... kommst aber nicht zur eigentlichen Essenz - dem Motor im Unterschied zu den Pferden. Er wird nie verstehen, was an einem Auto so besonders sein soll. Das ist das Problem bei deinen Beschreibungen. Alles wichtig und richtig, aber sicher nicht erschöpfend.

Stell' dir einen Roboter vor, der auf mehr sensorische Daten zurückgreifen kann als der Mensch, der bzgl. der motorischen Fähigkeiten deutlich überlegen ist, der diese Daten wesentlich schneller bearbeitet, der über ein gigantisches neuronales Netz mit vollständig freier Konfigurierbarkeit verfügt, das das Gehirn des Menschen deutlich übertrifft ... Hat er (oder entwickelt er zukünftig) Bewusstsein? Du weißt es nicht, weil du nicht weißt, was Bewusstsein im Kern wirklich ist und weil die Fragen der Sensorik u.a. dazu nichts beitragen.

Wenn du den Roboter fragst, wie er sein Bewusstsein definieren würde, antwortet er dir evtl., dass er sicher bzgl. bewusster Prozesse dem Menschen deutlich überlegen ist. Um seine Antwort für dich verständlich formulieren zu können, benötige er aber zunächst deine Definition und deine Erklärung deines Bewusstsein. Was antwortest du ihm?

[Geku]

Zitat von TomS

Genauso gut könnte ich sagen, der menschliche Organismus ist mit seinen Sensoren nicht in Lage, neue Informationen im Röntgenbereich abseits des bisherigen Spektrums zu erfassen.

Nur der Mensch hat sich ein Hilfsmittel geschaffen um Röntgen für ihn sichtbar (bewust) zu machen.
Es schafft aber keinen neuen Sinneseindruck.

Mit den Gedanken zu schweifen, lässt sich nicht mit einem starren, einfachen Algorithmus realisieren.

[TomS]

Zitat von Geku

Mit den Gedanken zu schweifen, lässt sich nicht mit einem starren, einfachen Algorithmus realisieren.

Woher weißt du das? Was genau unterscheidet „Gedanken schweifen lassen“ von „einen Algorithmus ausführen“? Welche Operationen führt eine intelligente, bewusste Entität auf einem gegebenen Input aus, zu der ein Algorithmus nicht fähig ist?

Ich finde deine Ausführungen ja interessant, ich will nur auf etwas anderes hinaus, nämlich nicht nur auf unbewiesene Meinungen (und seien sie noch so plausibel).

[Geku]

Wenn du einiges über das Bewustsein erfahren willst, dann sind Berichte über Gehirnläsionen und Split Brain Untersuchungen sehr lehrreich und informativ.

Das Buch "Einsicht ins Ich", https://philosophisch-ethische-rezen.../Dennett1.html, enthält jede Menge Gedankenexperiemente zu diesem Thema. Dieses Buch hat sicher mein Denken zum Thema "Bewustsein" beeinflusst.

Deine Meinung geht in Richtung Panpsychismus. https://de.m.wikipedia.org/wiki/Panpsychismus

Ich sehe für die Erlangung von (Selbst)bewustsein eine Schwelle an Komplexität. Bewustlosigkeit ist ein klares Zeichen, dass diese Schwelle unterschritten wurde.

[TomS]

Ich habe in der Vergangenheit einiges zu dem Thema gelesen - von Neurobiologie über Physik und Informatik bis hin zu Psychologie.

Die gesamte Diskussion - und auch deine Ausführungen - kranken immer an der selben Sache:

Entweder wird behauptet, dass algorithmische Maschinen bei genügend hoher Komplexität, Feedback-Loops, Interaktionsmöglichkeiten etc. Bewusstsein entwickeln können. Oder es wird behauptet, dass algorithmische Maschinen auch unter diesen Voraussetzungen eben kein Bewusstsein entwickeln können.

Dabei entziehen sich sämtliche mir bekannte Ansätze für Bewusstsein der zentralen Frage, was Bewusstsein im Kern ist!

Zitat von Geku

Wenn du einiges über das Bewustsein erfahren willst, dann sind Berichte über Gehirnläsionen und Split Brain Untersuchungen sehr lehrreich und informativ.

Dabei hilft es nichts, z.B. bei einem Split-Brain-Patienten zu konstatieren, er würde zwei getrennte Instanzen von Bewusstsein entwickeln, die jedoch über die gemeinsamen Erinnerungen sowie über die Interaktion mit der Außenwelt verbunden sind. Das ist zwar naheliegend, erklärt jedoch weiterhin nicht das Wesen von Bewusstsein; es hilft nichts, wenn ich zwei Instanzen von etwas habe, wenn ich nicht mal eine verstehe.

Generell besteht der blinde Fleck immer darin, Bewusstsein im weitesten Sinne über Wahrnehmung zu definieren - und sei es die Selbstwahrnehmung, die ich für mich konstatieren kann, die sich jedoch jeder Wahrnehmung und objektiven Untersuchung durch Dritte entzieht. Das von mir wahrgenommene Phänomen "Bewusstsein", in dem ich mir selbst erscheine, wird dadurch nicht definiert, es wird lediglich als Phänomen konstatiert.

Ich behaupte gar nicht, dass man darüber hinausgehen kann. Ich behaupte vielmehr, dass man - nach meiner Meinung - gerade nicht darüber hinausgehen kann sondern hier an eine natürliche Grenze der Introspektion stößt, die es zwar erlaubt, "etwas" wahrzunehmen, was wir als "Bewusstsein" beschreiben, die es jedoch nicht erlaubt, zu analysieren, was dieses "Bewusstsein" tatsächlich ausmacht. Möglicherweise ist Bewusstsein tatsächlich nicht mehr als dieser Zirkel, allerdings werden wir diese Hypothese nie weiter untersuchen können - nicht logisch, nicht mathematisch und nicht empirisch.

Zitat von Geku

Deine Meinung geht in Richtung Panpsychismus. https://de.m.wikipedia.org/wiki/Panpsychismus

Sicher nicht. Da weder ich noch - nach meiner unmaßgeblichen Meinung - irgendjemand anders Bewusstsein klar definieren kann, werde ich mich auch nicht an Spekulationen beteiligen, wo Bewusstsein - ein bisher undefinierter Begriff - überall zu finden ist.

Zitat von Geku

Ich sehe für die Erlangung von (Selbst)bewusstsein eine Schwelle an Komplexität. Bewusstlosigkeit ist ein klares Zeichen, dass diese Schwelle unterschritten wurde.

Um es kurz zu machen: ich bin nicht an Voraussetzungen, Beispielen oder Auswirkungen von Bewusstsein interessiert, sondern an der Frage, was Bewusstsein tatsächlich ist und ob man dies analysieren kann, oder man man sich Bewusstsein aufgrund dieses blinden Flecks einer solchen Analyse entzieht.

[Geku]

Zitat von TomS

Um es kurz zu machen: ich bin nicht an Voraussetzungen, Beispielen oder Auswirkungen von Bewusstsein interessiert, sondern an der Frage, was Bewusstsein tatsächlich ist und ob man dies analysieren kann, oder man man sich Bewusstsein aufgrund dieses blinden Flecks einer solchen Analyse entzieht.

Zu wissen was Bewustsein ist ist das Ziel, bis dahin ist es ein langer mühseliger, bei weiten nicht abgschlossener Weg. Das Gleiche gilt für das "Leben". Was ist Leben und wo beginnt es.

Gerade Störfälle des Gehirn bieten Einblicke in das Bewustsein, erklären zwar dieses nicht, aber geben ein wages Gefühl für dieses.

[TomS]

Zitat von Geku

Zu wissen was Bewusstsein ist ist das Ziel, bis dahin ist es ein langer mühseliger, bei weiten nicht abgeschlossener Weg.

Gut.

D.h. jedoch, dass wir uns davor hüten sollten, Schlussfolgerungen abzuleiten, die irgendwie auf Vermutungen oder Hypothesen bzgl. "Bewusstsein" beruhen.

Meine Hypothese ist eine eher agnostische:
1) das Epiphänomen "Bewusstsein" beruht auf gewöhnlichen physikalischen Systemen und Prozessen*),
2) ist jedoch aufgrund der Komplexität der beteiligten Systeme und Prozesse*) einer Analyse im Kontext derselben nicht zugänglich
*) Prozesse, die auch als Algorithmen aufgefasst werden können

Kurz gesagt: das selbe Gehirn, das Bewusstsein hervorbringt, ist nicht in der Lagen, dieses hervorgebrachte Bewusstsein mittels Introspektion zu analysieren und zu verstehen. Noch kürzer: der Algorithmus ist unfähig zur Selbsterkenntnis.

Übrigens ist das keineswegs erstaunlich. Es ist ja keineswegs so, dass wir den Algorithmus bis auf einige essentielle Details bzgl. des Bewusstseins verstehen würden. Im Gegenteil, wir verstehen fast nichts, ein Großteil des Systems und des Algorithmus ist unserer Introspektion völlig unzugänglich - das Unterbewusstsein.

Während unser Gehirn viele Millionen Sinneseindrücke bzw. Nervenimpulse pro Sekunde verarbeitet, kommen davon nur einige Dutzend ins Bewusstsein. Man könnte also sagen, Bewusstsein resultiert aus einer Art Projektionsoberfläche, auf der ein winziger Bruchteil unserer neuronalen Aktivität als "Bewusstseinsinhalte" für uns bewusst werden.