KI - Gefahr, Herausforderung, Chance?

[soon]

Zitat von n4mbuG0t0

...
Meiner Meinung nach ist dies eng verwoben mit der Frage nach freiem Willen, und daher wohl auch mit der Frage nach Determinismus vs. Zufall. Und wie so oft endet man dann bei der Interpretation der Quantenphysik.

Da ist was dran.

Der scheinbare Widerspruch zwischen Determinismus und freiem Willen/Zufall lässt sich aber einfach auflösen, indem man sagt:
welche Entscheidung ich mittels freiem Willen treffe ist determiniert.

Freier Wille und Bewusstsein wären, so gesehen, nur eine Interpretation innerhalb des Modells 'Alltagsvorstellung'.


Eine Parallele zur Interpretation der Quantenphysik kann man auch konstruieren.

Angenommen, per Zufall oder freiem Willen wird Tor1, Tor2 oder Tor3 geöffnet, dann würde nach der VWI jedes der Tore in einem eigenen "Zweig" geöffnet.

Die VWI ist aber, meiner Meinung nach, nur eine komplizierte Umformulierung des Begriffs 'Zufall', weil nicht danach gefragt wird, in welchem Zweig welches Tor geöffnet wird.

[JoAx]

Man muss schon schmunzeln.

Bin vor kurzem auf ein Youtuber gestoßen, der Schachspiele kommentiert. Ich weiss nicht, ob er der beste ist, mir gefällt er. Warum ich das hier poste? Er kommentiert auch spiele zwischen Stockfish und Alpha Zero. Und in einem Spiel muss man sich fast schon fragen, ob Alpha Zero sich etwas dabei denkt, oder zumindest "denkt". Zumindest scheint so eine Interpretation möglich.

Hier: Deep Mind AI Alpha Zero Refuses a Draw from Stockfish

[TomS]

Zitat von JoAx

Und in einem Spiel muss man sich fast schon fragen, ob Alpha Zero sich etwas dabei denkt, oder zumindest "denkt".

Die Frage ist, ob wir das jemals beantworten können.

Dazu müssten wir zuerst mal definieren können, was unser eigenes Denken oder gar Bewusstsein ausmacht. Wenn dies letztlich ein reiner Algorithmus wäre, dann wäre eine hinreichend mächtige KI äquivalent (isomorph) zum menschlichen Gehirn.

Aber wir stehen vor dem Problem der Introspektion, des Beweises oder Verständnisses eines (potentiellen) Algorithmus durch eben diesen Algorithmus (unserer Denken). Und wir stünden natürlich vor der Hürde des Eingeständnisses, dass wir eben auch nur Maschinen mit Algorithmen sind.

Bei der Lektüre von Philosophiebüchern, die argumentieren, dass unser Denken mehr ist als ein Algorithmus, stelle ich immer wieder fest, dass diese die triviale Frage, ob wir uns selbst evtl. gar nicht erkennen und verstehen können, und was dies bedeuten könnte, gar nicht stellen.

Zwei Behavioristen hatten Sex; sie: "und, wie war's für mich?"

[Bernhard]

Zitat von JoAx

Und in einem Spiel muss man sich fast schon fragen, ob Alpha Zero sich etwas dabei denkt, oder zumindest "denkt".

Ich habe mal in den Clip etwas reingesehen. Dabei ist mir aufgefallen, dass es dabei scheinbar um eine Stellung geht, die leicht in eine Schleife laufen kann, d.h. wo sich Züge einfach wiederholen. Damit das Programm solche Situationen vermeiden kann, muss der Programmierer natürlich Abbruch- und Erkennungskriterien hinzufügen, und es würde mich nicht wundern, wenn diese Vorschriften gerade hier besonders bemerkbar werden.

[Bernhard]

Zitat von TomS

Dazu müssten wir zuerst mal definieren können, was unser eigenes Denken oder gar Bewusstsein ausmacht.

Vielleicht ist das ja gar nicht so kompliziert?

Ich vermute, dass "in erster Näherung" Bewusstsein erst mal "nur" aus Algorithmen besteht, welche die eigene Existenz beurteilen. Z.B. die Klärung oder Beurteilung der Frage, inwieweit Umwelteinflüsse der eigenen Existenz gefährlich werden können und wie geeignete Gegenmaßnahmen ergriffen werden können. Im Prinzip sind auch solche Algorithmen programmierbar und werden mittlerweile bei Studien-Robotern ansatzweise anscheinend auch schon verwendet.

[TomS]

Zitat von Bernhard

Ich vermute, dass "in erster Näherung" Bewusstsein erst mal "nur" aus Algorithmen besteht, welche die eigene Existenz beurteilen.

Aber in zweiter Näherung befasst sich das Bewusstsein mit dem Bewusstsein - d.h. Selbstwusstsein, Introspektion, ...

Und damit hätten wir ein selbstbezügliches algorithmisches System, von dem wir mathematisch beweisbar wissen, dass unlösbare Aufgaben, nicht haltende Programme, ... existieren.

[Timm]

Zitat von JoAx

Und in einem Spiel muss man sich fast schon fragen, ob Alpha Zero sich etwas dabei denkt, oder zumindest "denkt". Zumindest scheint so eine Interpretation möglich.

Zumindest lernen neuronale Netze wie Alpha Zero, Lc0 und Komodo MCTS mittels backpropagation aus Fehlern. Ein Effekt ist, daß die Zahl der untersuchten Knoten und die Geschwindigkeit im Vergleich zu den herkömmlichen alpha-beta Maschinen um den Faktor 1000 kleiner ist. Das Großmeister Hirn ist nochmals selektiver und langsamer. Vielleicht repräsentiert das Abarbeiten eines solchen Algorithmus ein Fünkchen Denken.

[TomS]

Zitat von Timm

Vielleicht repräsentiert das Abarbeiten eines solchen Algorithmus ein Fünkchen Denken.

Wenn das Denken im wesentlichen so ein Algorithmus ist, dann unterschreibe ich das sofort.

[sirius]

Zitat von TomS

.....

Ich denke, wir können Bewusstsein nicht modellieren, weil wir es nicht mal definieren können.

Sehe ich aehnlich hinsichtlich der Definition von Bewusstsein.

Warum verspueren wir im Schlaf keine Schmerzen koennen aber erkennen, dass wir traeumen?

https://de.wikipedia.org/wiki/Klartraum

Da sind noch etliche Fragen offen, was das menschliche Bewusstsein anlangt.

[JoAx]

Zitat von Bernhard

Dabei ist mir aufgefallen, dass es dabei scheinbar um eine Stellung geht, die leicht in eine Schleife laufen kann, d.h. wo sich Züge einfach wiederholen. Damit das Programm solche Situationen vermeiden kann, muss der Programmierer natürlich Abbruch- und Erkennungskriterien hinzufügen, und es würde mich nicht wundern, wenn diese Vorschriften gerade hier besonders bemerkbar werden.

Bei den Chess Engines (Stockfish) ist es sicher so.

Bei KIs funktioniert es anders. Da wird nichts derartiges von Hand programmiert. Vor dem ersten Spiel gegen Stockfish wurden Deep Mind nur die Regeln beigebracht, inkl. der Regel für ein Unentschieden, wenn sich die Stellung wiederholt. Das geschah wohl genau so oder ähnlich, wie im Tutorial, den ich weiter oben verlinkt habe. Anschließend spielte es 4 Std. lang gegen sich selbst. Das war's. Und Stockfisch hatte keine Chancen.

Der Kommentar von dem besagten Youtuber war in etwa: "Stockfish looks like a kid moving pieces around."