KI - Gefahr, Herausforderung, Chance?

[JoAx]

Intelligenz ist vlt. nicht gleich Bewustsein.

Man muss aber nicht bis zum Bewustsein vordringen, um auf erstaunliches zu stoßen. Ich habe vor einigen Wochen mit meinem Cousin bei einer Autofahrt über KI diskutiert, und er hat mir erzählt, dass bereits heutige KIs (korrekte) Antworten liefern, bei denen weder Fachleute (Ärtze etwa) noch Entwickler wissen, wie sie auf diese kommen.

Falls es jemanden interessiert, das hier
C# Artificial Intelligence (AI) Programming: A Basic Object Oriented (OOP) Framework for Neural Networks
ist das, was ich gestern ausprobiert habe.

[TheoC]

Zitat von JoAx

Intelligenz ist vlt. nicht gleich Bewustsein.

[/SIZE]

Bewusstsein losgelöst von "Handlungsmöglichkeit" zu definieren führt zu nix.
Eine "Handlungseinheit" ist etwas, mit dem wir interagieren können, das kann sein ein Nachrichtensprecher, oder eine Maschine.

Wir können grundsätzlich nicht beurteilen ob etwas Bewusstsein hat, oder intelligent ist, ohne die Handlungen zu betrachten, weil wir nicht in das "Innen" schauen können.

Handlungen erscheinen uns als intelligent, wenn sie bestimmten Mustern folgen, wenn also nicht strikt nach einem bestimmten Prozeduren gearbeitet wird, sondern Situationsabhängig.

Damit können wir, speziell mit neuronalen Netzen, Handlungseinheiten produzieren, die sich intelligent verhalten, und in vielen Situationen kaum von Menschen unterscheiden lassen.

Wir können aber KEIN Bewusstsein modellieren, weil dies die Interpretatoren- Ebene inkludieren würde. Und da gibt es aktuell keinen Ansatz wie so etwas funktionieren sollte,wie so etwas implementiert werden könnte. Bewusstsein ist eine Meta- Ebene, die "hinter dem Handeln" einen "Sinn" erkennt, und nicht das was einen Handeln scheinbar intelligent macht.


lg
Theo

[TomS]

Zitat von TheoC

Bewusstsein losgelöst von "Handlungsmöglichkeit" zu definieren führt zu nix.

Sehe ich nicht so. Z.B. kann man im Traum Handlungen bewusst erleben, ohne sie durchführen zu können.

Zitat von TheoC

Wir können grundsätzlich nicht beurteilen ob etwas Bewusstsein hat, oder intelligent ist, ohne die Handlungen zu betrachten, weil wir nicht in das "Innen" schauen können.

Wir können das auch bei Betrachtung der Handlungen nicht von außen beurteilen.

Zitat von TheoC

Handlungen erscheinen uns als intelligent, wenn sie bestimmten Mustern folgen, wenn also nicht strikt nach einem bestimmten Prozeduren gearbeitet wird, sondern Situationsabhängig.

Warum?

Eine Situation ist gegeben durch die Gesamtheit aller Gehirn- oder Bewusstseinszustände plus alle externen Reize. Damit können intelligente Handlungen weiterhin strikt nach Mustern und Prozeduren erfolgen.

(ich behaupte hier nicht, dass dies so ist, lediglich, dass es so sein könnte und nicht bzgl. der Kategorisierung von Intelligenz oder Bewusstsein helfen würde)

Zitat von TheoC

Wir können aber KEIN Bewusstsein modellieren, weil dies die Interpretatoren- Ebene inkludieren würde. Und da gibt es aktuell keinen Ansatz wie so etwas funktionieren sollte,wie so etwas implementiert werden könnte. Bewusstsein ist eine Meta- Ebene, die "hinter dem Handeln" einen "Sinn" erkennt, und nicht das was einen Handeln scheinbar intelligent macht.

Ich denke, wir können Bewusstsein nicht modellieren, weil wir es nicht mal definieren können.

[TheoC]

Zitat von TomS

Sehe ich nicht so. Z.B. kann man im Traum Handlungen bewusst erleben, ohne sie durchführen zu können.


Wir können das auch bei Betrachtung der Handlungen nicht von außen beurteilen.


Warum?

Eine Situation ist gegeben durch die Gesamtheit aller Gehirn- oder Bewusstseinszustände plus alle externen Reize. Damit können intelligente Handlungen weiterhin strikt nach Mustern und Prozeduren erfolgen.

(ich behaupte hier nicht, dass dies so ist, lediglich, dass es so sein könnte und nicht bzgl. der Kategorisierung von Intelligenz oder Bewusstsein helfen würde)


Ich denke, wir können Bewusstsein nicht modellieren, weil wir es nicht mal definieren können.

wie immer ist es die Sprache die uns Scheitern lässt im Verständnis


Im letzen Punkt stimme ich zu 100% zu,
"Ich denke, wir können Bewusstsein nicht modellieren, weil wir es nicht mal definieren können".

Das ist der springende Punkt!

zu den Handlungsmöglichkeiten; ich habe ein wunderbares Buch von einen Südafrikaner gelesen, der 15 Jahre in seinen Körper in eine Zustand des "Tagtraumas" gefangen war, der das aber voll Bewusst erlebt hat. Jeden Tag, jede Aktion, voll Bewusst, ohne körperliche Aktion. Was nützt es, wenn du voll Bewusst, und voll Intellegent bist, wenn du es nicht ausdrücken kannst, und keiner in deiner Umwelt es wahrnehmen kann?

Das es Bewusstsein gibt, ohne das sich dieses durch konkete Handlungsmöglichkeiten ausdrückt (Traum)schliesse ich definitiv nicht aus!

Zu den Handlungen.
Natürlich können wir nicht definitiv aus den Handlungen schliessen, ob etwas intelligent ist, oder nicht. Wir können das aber OHNE Handlungen BESTIMMT NICHT schliessen! Das ist der Punkt.

Der Punkt mit den Mustern ist "weich";
meiner Meinung nach, und da bin ich nicht so sicher, gibt es einen Unterschied zwischen Algorithmen die sich auf "wenn- dann Entscheidungen" reduzieren lassen, und solchen, die auf Grund von Mustern Ähnlichkeiten erkennen, und "situationsabhängig" regieren, was mir als ein Zeichen einer Form einer Intelligenz erscheint.

Wollte eigentlich nur auf den Aspekt bestätigen, das Intelligenz und Bewusstsein ganz sicher zwei verschiedene Dinge sind.

lg
Theo

[TomS]

Zunächst mal dimmen wir ja in vielen Punkten überein.

Dann

Zitat von TheoC

Was nützt es, wenn du voll Bewusst, und voll Intellegent bist, wenn du es nicht ausdrücken kannst, und keiner in deiner Umwelt es wahrnehmen kann?

Nichts - aber das war ja nicht die ursprüngliche Frage ;-)

Kennst du das Buch „Der Seewolf“ von Jack London?

Zitat von TheoC

Der Punkt mit den Mustern ist "weich";
meiner Meinung nach, und da bin ich nicht so sicher, gibt es einen Unterschied zwischen Algorithmen die sich auf "wenn- dann Entscheidungen" reduzieren lassen, und solchen, die auf Grund von Mustern Ähnlichkeiten erkennen, und "situationsabhängig" regieren, was mir als ein Zeichen einer Form einer Intelligenz erscheint.

Zumindest bei neuronalen Netzen ist das nicht weich. Sie sind lediglich eine andere Art der Repräsentation von Daten, Signalen und Algorithmen.

[JoAx]

Zitat von TheoC

Wir können das aber OHNE Handlungen BESTIMMT NICHT schliessen! Das ist der Punkt.

Ist das nicht trivial?

[n4mbuG0t0]

Ich denke Bewusstsein auf intelligente Handlungen zu reduzieren ist falsch.
Bewusstsein setzt das bewusste setzen der Handlung voraus.
Dass ich Atme macht völlig Sinn, und ist wohl auch intelligent, dennoch
atme ich die meiste Zeit unbewusst.
Meiner Meinung nach ist dies eng verwoben mit der Frage nach freiem Willen, und daher
wohl auch mit der Frage nach Determinismus vs. Zufall. Und wie so oft endet
man dann bei der Interpretation der Quantenphysik.

Zum Thema Neuronale-Netze:
Das sind vereinfacht ausgedrückt mathematische Blackboxen, welche eine unbekannte Funktion annähern. Bei gleichem Input ist der Output immer deterministisch (zumindest wenn man nicht bewusst irgendwo Zufallsgeneratoren einbaut, aber bei klassischen neuronalen Netzen habe ich sowas auch noch nie gesehen). Solch ein System kann den Anschein von freiem Willen und Bewusstsein erwecken, da man unter Umständen nicht alle Input-Parameter kennt und schon gar nicht die Funktion welche durch das Netz simuliert wird. Dennoch wird das Netz nie einen anderen Output liefern bei gleichem Input. Es kann sich also nicht bewusst für eine andere Handlung entscheiden. Inwiefern wir als Menschen das können, kann ich natürlich auch nicht beantworten. Vllt. kennen wir nur nicht alle Anfangsparameter, und haben daher den Eindruck wir würden bewusst Entscheidungen treffen, vllt. können wir es tatsächlich.

[Hawkwind]

Zitat von n4mbuG0t0

Solch ein System kann den Anschein von freiem Willen und Bewusstsein erwecken, da man unter Umständen nicht alle Input-Parameter kennt und schon gar nicht die Funktion welche durch das Netz simuliert wird.

Das konnte sogar schon das uralte Programm Eliza aus der Mitte der 60er
; viele seiner "Klienten" fühlten sich gut verstanden:
https://en.wikipedia.org/wiki/ELIZA
http://manifestation.com/neurotoys/eliza.php3/

mit Dialogen wie
----
Human: Well, my boyfriend made me come here.
ELIZA: Your boyfriend made you come here?
Human: He says I'm depressed much of the time.
ELIZA: I am sorry to hear you are depressed.
Human: It's true. I'm unhappy.
ELIZA: Do you think coming here will help you not to be unhappy?

[sirius]

Zitat von Hawkwind

Das konnte sogar schon das uralte Programm Eliza aus der Mitte der 60er
; viele seiner "Klienten" fühlten sich gut verstanden:
https://en.wikipedia.org/wiki/ELIZA
http://manifestation.com/neurotoys/eliza.php3/

mit Dialogen wie
----
Human: Well, my boyfriend made me come here.
ELIZA: Your boyfriend made you come here?
Human: He says I'm depressed much of the time.
ELIZA: I am sorry to hear you are depressed.
Human: It's true. I'm unhappy.
ELIZA: Do you think coming here will help you not to be unhappy?

ELIZA hat sich, wie es scheint, auf eher unerfreuliche Art weiterentwickelt….

Hier noch mal der Link aus meinem vorherigen Beitrag, der das deutlich aufzeigt

https://de.euronews.com/next/2023/04...stmord-Belgien

[Geku]

Zitat von sirius

Hier noch mal der Link aus meinem vorherigen Beitrag, der das deutlich aufzeigt

https://de.euronews.com/next/2023/04...stmord-Belgien

Man darf niemanden blind vertrauen!

Programme wie ChatGPT werden nur dann von Nutzen sein, wenn man über ein bestimmtes Grundwissen verfügt und man dadurch in der Lage ist, die Richtigkeit der Antwort zu hinterfragen. Das gilt aber nicht nur im im Gespräch mit einer KI.

Die KI kann unsere geistige Fähigkeiten verstärken, aber nicht ersetzen. Mitdenken ist immer gefordert.
Ich habe manchmal in Gesprächen mit Absicht kleine Fehler eingebaut um mir vom Vis a Vis ein Bild zu machen. Könnte es nicht sein, dass die KI seine Gesprächspartner analysiert?

Ist es bei Erklärungen notwenig eine Stufe herunter zu schalten? (im ORF gibt es Nachrichten in einfacher Sprache).
Hat man Vis a Vis meine Anordungen verstanden oder nur aus Höflichkeit abgenickt?

Wie reagiert das Gegenüber?

Es gibt viele verschiedene Methoden zur Gesprächsführung, die je nach Zielsetzung und Situation angewendet werden können.

Hier sind einige der gängigsten Methoden:

• Aktives Zuhören: Dabei geht es darum, dem Gesprächspartner volle Aufmerksamkeit zu schenken und durch gezielte Rückfragen und Zusammenfassungen sicherzustellen, dass man seine Aussagen korrekt verstanden hat.

• Offene Fragen stellen: Durch offene Fragen, die mit "wie", "was", "warum" beginnen, kann man den Gesprächspartner dazu bringen, mehr Informationen zu liefern und seine Sichtweise ausführlicher darzulegen.

• Paraphrasieren: Durch das Wiederholen von Aussagen des Gesprächspartners in eigenen Worten zeigt man, dass man aktiv zuhört und auch verstanden hat, was gemeint ist.

• Feedback geben: Hierbei gibt man dem Gesprächspartner eine Rückmeldung zu seinen Aussagen und zeigt ihm auf, welche Wirkung diese auf einen haben.

• Empathie zeigen: Durch empathisches Verhalten, z.B. durch Wertschätzung und Verständnis, kann man ein positives Gesprächsklima schaffen und dem Gesprächspartner das Gefühl geben, ernst genommen zu werden.

• Argumentieren: Durch Argumentationstechniken wie z.B. der "Ich-Botschaft" oder der "Sandwich-Methode" kann man in einer Diskussion gezielt seine Standpunkte vertreten.

• Problemlösungstechniken: Bei der Suche nach Lösungen für ein Problem können Techniken wie das "Brainstorming" oder die "Ishikawa-Methode" helfen, um kreative Ideen zu entwickeln und Ursachen zu identifizieren.

Je nach Situation und Zielsetzung können also unterschiedliche Methoden zur Gesprächsführung eingesetzt werden. Es ist wichtig, sich bewusst zu sein, welche Methode in welchem Kontext am besten geeignet ist, um das Gespräch erfolgreich zu führen.

Ich glaube das gerade ChatGPT auf solche Eigenschaften speziell trainiert ist.