KI - Gefahr, Herausforderung, Chance?

[TheoC]

Zitat von JoAx

Intelligenz ist vlt. nicht gleich Bewustsein.

[/SIZE]

Bewusstsein losgelöst von "Handlungsmöglichkeit" zu definieren führt zu nix.
Eine "Handlungseinheit" ist etwas, mit dem wir interagieren können, das kann sein ein Nachrichtensprecher, oder eine Maschine.

Wir können grundsätzlich nicht beurteilen ob etwas Bewusstsein hat, oder intelligent ist, ohne die Handlungen zu betrachten, weil wir nicht in das "Innen" schauen können.

Handlungen erscheinen uns als intelligent, wenn sie bestimmten Mustern folgen, wenn also nicht strikt nach einem bestimmten Prozeduren gearbeitet wird, sondern Situationsabhängig.

Damit können wir, speziell mit neuronalen Netzen, Handlungseinheiten produzieren, die sich intelligent verhalten, und in vielen Situationen kaum von Menschen unterscheiden lassen.

Wir können aber KEIN Bewusstsein modellieren, weil dies die Interpretatoren- Ebene inkludieren würde. Und da gibt es aktuell keinen Ansatz wie so etwas funktionieren sollte,wie so etwas implementiert werden könnte. Bewusstsein ist eine Meta- Ebene, die "hinter dem Handeln" einen "Sinn" erkennt, und nicht das was einen Handeln scheinbar intelligent macht.


lg
Theo

[TomS]

Zitat von TheoC

Bewusstsein losgelöst von "Handlungsmöglichkeit" zu definieren führt zu nix.

Sehe ich nicht so. Z.B. kann man im Traum Handlungen bewusst erleben, ohne sie durchführen zu können.

Zitat von TheoC

Wir können grundsätzlich nicht beurteilen ob etwas Bewusstsein hat, oder intelligent ist, ohne die Handlungen zu betrachten, weil wir nicht in das "Innen" schauen können.

Wir können das auch bei Betrachtung der Handlungen nicht von außen beurteilen.

Zitat von TheoC

Handlungen erscheinen uns als intelligent, wenn sie bestimmten Mustern folgen, wenn also nicht strikt nach einem bestimmten Prozeduren gearbeitet wird, sondern Situationsabhängig.

Warum?

Eine Situation ist gegeben durch die Gesamtheit aller Gehirn- oder Bewusstseinszustände plus alle externen Reize. Damit können intelligente Handlungen weiterhin strikt nach Mustern und Prozeduren erfolgen.

(ich behaupte hier nicht, dass dies so ist, lediglich, dass es so sein könnte und nicht bzgl. der Kategorisierung von Intelligenz oder Bewusstsein helfen würde)

Zitat von TheoC

Wir können aber KEIN Bewusstsein modellieren, weil dies die Interpretatoren- Ebene inkludieren würde. Und da gibt es aktuell keinen Ansatz wie so etwas funktionieren sollte,wie so etwas implementiert werden könnte. Bewusstsein ist eine Meta- Ebene, die "hinter dem Handeln" einen "Sinn" erkennt, und nicht das was einen Handeln scheinbar intelligent macht.

Ich denke, wir können Bewusstsein nicht modellieren, weil wir es nicht mal definieren können.

[TheoC]

Zitat von TomS

Sehe ich nicht so. Z.B. kann man im Traum Handlungen bewusst erleben, ohne sie durchführen zu können.


Wir können das auch bei Betrachtung der Handlungen nicht von außen beurteilen.


Warum?

Eine Situation ist gegeben durch die Gesamtheit aller Gehirn- oder Bewusstseinszustände plus alle externen Reize. Damit können intelligente Handlungen weiterhin strikt nach Mustern und Prozeduren erfolgen.

(ich behaupte hier nicht, dass dies so ist, lediglich, dass es so sein könnte und nicht bzgl. der Kategorisierung von Intelligenz oder Bewusstsein helfen würde)


Ich denke, wir können Bewusstsein nicht modellieren, weil wir es nicht mal definieren können.

wie immer ist es die Sprache die uns Scheitern lässt im Verständnis


Im letzen Punkt stimme ich zu 100% zu,
"Ich denke, wir können Bewusstsein nicht modellieren, weil wir es nicht mal definieren können".

Das ist der springende Punkt!

zu den Handlungsmöglichkeiten; ich habe ein wunderbares Buch von einen Südafrikaner gelesen, der 15 Jahre in seinen Körper in eine Zustand des "Tagtraumas" gefangen war, der das aber voll Bewusst erlebt hat. Jeden Tag, jede Aktion, voll Bewusst, ohne körperliche Aktion. Was nützt es, wenn du voll Bewusst, und voll Intellegent bist, wenn du es nicht ausdrücken kannst, und keiner in deiner Umwelt es wahrnehmen kann?

Das es Bewusstsein gibt, ohne das sich dieses durch konkete Handlungsmöglichkeiten ausdrückt (Traum)schliesse ich definitiv nicht aus!

Zu den Handlungen.
Natürlich können wir nicht definitiv aus den Handlungen schliessen, ob etwas intelligent ist, oder nicht. Wir können das aber OHNE Handlungen BESTIMMT NICHT schliessen! Das ist der Punkt.

Der Punkt mit den Mustern ist "weich";
meiner Meinung nach, und da bin ich nicht so sicher, gibt es einen Unterschied zwischen Algorithmen die sich auf "wenn- dann Entscheidungen" reduzieren lassen, und solchen, die auf Grund von Mustern Ähnlichkeiten erkennen, und "situationsabhängig" regieren, was mir als ein Zeichen einer Form einer Intelligenz erscheint.

Wollte eigentlich nur auf den Aspekt bestätigen, das Intelligenz und Bewusstsein ganz sicher zwei verschiedene Dinge sind.

lg
Theo

[Timm]

Zitat von TomS

Wir können das auch bei Betrachtung der Handlungen nicht von außen beurteilen.

Warum nicht? Eine Katze interagiert mit der Umgebung der jeweiligen Situation entsprechend angepasst.

[TomS]

Zunächst mal dimmen wir ja in vielen Punkten überein.

Dann

Zitat von TheoC

Was nützt es, wenn du voll Bewusst, und voll Intellegent bist, wenn du es nicht ausdrücken kannst, und keiner in deiner Umwelt es wahrnehmen kann?

Nichts - aber das war ja nicht die ursprüngliche Frage ;-)

Kennst du das Buch „Der Seewolf“ von Jack London?

Zitat von TheoC

Der Punkt mit den Mustern ist "weich";
meiner Meinung nach, und da bin ich nicht so sicher, gibt es einen Unterschied zwischen Algorithmen die sich auf "wenn- dann Entscheidungen" reduzieren lassen, und solchen, die auf Grund von Mustern Ähnlichkeiten erkennen, und "situationsabhängig" regieren, was mir als ein Zeichen einer Form einer Intelligenz erscheint.

Zumindest bei neuronalen Netzen ist das nicht weich. Sie sind lediglich eine andere Art der Repräsentation von Daten, Signalen und Algorithmen.

[JoAx]

Zitat von TheoC

Bewusstsein losgelöst von "Handlungsmöglichkeit" zu definieren führt zu nix.
Eine "Handlungseinheit" ist etwas, mit dem wir interagieren können, das kann sein ein Nachrichtensprecher, oder eine Maschine.

Zitat von TheoC

Wir können grundsätzlich nicht beurteilen ob etwas Bewusstsein hat, oder intelligent ist, ohne die Handlungen zu betrachten, weil wir nicht in das "Innen" schauen können.

"Handlungen" sind auch nur eine spezielle Art des Outputs.

Zitat von TheoC

Handlungen erscheinen uns als intelligent, wenn sie bestimmten Mustern folgen, wenn also nicht strikt nach einem bestimmten Prozeduren gearbeitet wird, sondern Situationsabhängig.

Zitat von TheoC

Damit können wir, speziell mit neuronalen Netzen, Handlungseinheiten produzieren, die sich intelligent verhalten, und in vielen Situationen kaum von Menschen unterscheiden lassen.

Zitat von TheoC

Wir können aber KEIN Bewusstsein modellieren, weil dies die Interpretatoren- Ebene inkludieren würde. Und da gibt es aktuell keinen Ansatz wie so etwas funktionieren sollte,wie so etwas implementiert werden könnte. Bewusstsein ist eine Meta- Ebene, die "hinter dem Handeln" einen "Sinn" erkennt, und nicht das was einen Handeln scheinbar intelligent macht.

Ich bezweifle, dass das Problem der Entstehung von Bewustsein schon so gut erforscht ist, dass definitive Antworten (wie von dir hier gegeben) bereits möglich sind.

[JoAx]

Zitat von TheoC

Wir können das aber OHNE Handlungen BESTIMMT NICHT schliessen! Das ist der Punkt.

Ist das nicht trivial?

[n4mbuG0t0]

Ich denke Bewusstsein auf intelligente Handlungen zu reduzieren ist falsch.
Bewusstsein setzt das bewusste setzen der Handlung voraus.
Dass ich Atme macht völlig Sinn, und ist wohl auch intelligent, dennoch
atme ich die meiste Zeit unbewusst.
Meiner Meinung nach ist dies eng verwoben mit der Frage nach freiem Willen, und daher
wohl auch mit der Frage nach Determinismus vs. Zufall. Und wie so oft endet
man dann bei der Interpretation der Quantenphysik.

Zum Thema Neuronale-Netze:
Das sind vereinfacht ausgedrückt mathematische Blackboxen, welche eine unbekannte Funktion annähern. Bei gleichem Input ist der Output immer deterministisch (zumindest wenn man nicht bewusst irgendwo Zufallsgeneratoren einbaut, aber bei klassischen neuronalen Netzen habe ich sowas auch noch nie gesehen). Solch ein System kann den Anschein von freiem Willen und Bewusstsein erwecken, da man unter Umständen nicht alle Input-Parameter kennt und schon gar nicht die Funktion welche durch das Netz simuliert wird. Dennoch wird das Netz nie einen anderen Output liefern bei gleichem Input. Es kann sich also nicht bewusst für eine andere Handlung entscheiden. Inwiefern wir als Menschen das können, kann ich natürlich auch nicht beantworten. Vllt. kennen wir nur nicht alle Anfangsparameter, und haben daher den Eindruck wir würden bewusst Entscheidungen treffen, vllt. können wir es tatsächlich.

[Hawkwind]

Zitat von n4mbuG0t0

Solch ein System kann den Anschein von freiem Willen und Bewusstsein erwecken, da man unter Umständen nicht alle Input-Parameter kennt und schon gar nicht die Funktion welche durch das Netz simuliert wird.

Das konnte sogar schon das uralte Programm Eliza aus der Mitte der 60er
; viele seiner "Klienten" fühlten sich gut verstanden:
https://en.wikipedia.org/wiki/ELIZA
http://manifestation.com/neurotoys/eliza.php3/

mit Dialogen wie
----
Human: Well, my boyfriend made me come here.
ELIZA: Your boyfriend made you come here?
Human: He says I'm depressed much of the time.
ELIZA: I am sorry to hear you are depressed.
Human: It's true. I'm unhappy.
ELIZA: Do you think coming here will help you not to be unhappy?

[TheoC]

Zitat von JoAx

"Handlungen" sind auch nur eine spezielle Art des Outputs.

@Joax

Auf was ich hinaus will, ist das es der Begriff "Intelligenz" nicht getrennt werden kann von einem handelndem Objekt. Ein "intellegent wirkender" Nachrichtensprecher, eine intellegent wirkender Roboter. Ohne etwas "das etwas tut" könne wir es einfach nicht beurteilen, weil wir NUR über das "Wirken" auf "Intelligenz" schliessen können. Ist trivial, aber in den Diskussionen wird das imho nicht unterschieden.

Ich arbeite mit "KI", wir trainieren zB unsere Systeme darauf, aus "Geräuschen", die über Mikrofone aufgenommen werden, "Unfälle" zu erkennen (und zB von ähnlich klingenden Abbremsmannövern zu unterscheiden); das WIRKT meiner Meinung nach "Intelligent", weil es auf Grund von Mustern Analogien erkennt.

Komplexe Muster zu Kategorisieren ist ein "Intelligenzleistung" die deutlich anders ist, wie "es ist zu kalt, deswegen schalte ich die Heizung ein".

Zumindest ist die Vorstellung das auf Gund eines Geräusches beurteilen werden kann, ob es ein Unfall war, oder eine Notbremsung, unserer eigenen Vorstellung von Intelligenz deutlich näher wie die "Intelligenz" eines Raumthermostates.

Zitat von JoAx

:
Ich bezweifle, dass das Problem der Entstehung von Bewustsein schon so gut erforscht ist, dass definitive Antworten (wie von dir hier gegeben) bereits möglich sind.

Ich bin definitiv nicht der Meinung das wir Bewusstsein als Phänomen verstanden (erforscht) haben; und wollte diesbezüglich auch keine definitiven Positionen beziehen.

Etwas das intelligent für einen "intelligenten Betrachter" wirkt, hat mit Bewusstsein nichts zu tun! Mehr wollte ich nicht sagen.

Eine komplexe Muster analysierende Einheit, die, menschenähnliche Reaktionen aus der Analyse ihre Umwelt produziert, kann durchaus sehr intelligent wirken, hat aber mit "Bewusstsein" nichts zu tun!

Dazu würde gehören dass die Maschine die "Bedeutung" von "Unfall" und "Notbremsung" VERSTEHT!!

Ein intelligent WIRKENDER Nachrichtensprecher hat mit einer bewussten Einheit "Nachrichtensprecher" NICHTS ZU TUN.



lg
Tneo