KI - Gefahr, Herausforderung, Chance?

[sirius]

Erste KI als Nachrichtensprecher in China. Der Kollege, der 24/7 bereit ist, keine Pausen, keinen Urlaub braucht und auch sonst keine stoerenden Beduerfnisse hat.

Xinhua's first English AI anchor makes debut

https://www.youtube.com/watch?v=GAfiATTQufk

Ich schwanke zwischen Faszination und Besorgnis.

[sirius]

Ein Gedankenexperiment

https://www.youtube.com/results?sear...weise+umbringt

Wie realistisch ist das?

[JoAx]

Zitat von sirius

Erste KI als Nachrichtensprecher in China. Der Kollege, der 24/7 bereit ist, keine Pausen, keinen Urlaub braucht und auch sonst keine stoerenden Beduerfnisse hat.

Ich schwanke zwischen Faszination und Besorgnis.

Der Kollege spricht die Nachrichten nur vor. Er macht und findet diese nicht. Das machen (vorerst) Kollegen, die sehr wohl 'ne Menge an Bedürfnissen haben.

Die KI ist schon eine Herausforderung, ich würde aber raten, es nicht als Gefahr zu sehen. (Der Unterschied liegt in der persönlichen Einstellung. Gefahr => Angst, Lehmung = destruktiv. Herausforderung => das ist konstruktiv.) Man muss Fähigkeiten und Fertigkeiten entwickeln/erlernen, die so ein Kollege nicht haben kann, zumindest nicht so schnell.

Ich frage mich da in letzter Zeit bsw. - wie lange es wohl dauern wird, bis KIs anfangen werden, Software zu entwickeln? Und wie sollte mein "Lern-Vektor" aussehen, damit ich denen nicht in die Quere komme? Selber KIs entwickeln? Habe heute mein erstes Tutorial zum Thema absolviert. Wird aber noch 'ne Weile dauern, bis ich es richtig durchblicke.

Und nicht vergessen - Weltuntergangsthemen verkaufen sich besser als gute Nachrichten. Eine der wichtigen Fähigkeiten heutzutage ist - die Informationen, die eine(n) erreichen, filtern und richtig einordnen zu können.

In diesem Sinne ...

[Hawkwind]

Die wirklich spannendste Frage ist m.E., ob eine KI so etwas wie ein Bewusstsein besitzen kann. Die gängige Meinung ist wohl recht materialistisch, das Bewusstsein als Resultat einer hinreichend komplizierten Hardware/Software-Architektur, bei uns das Gehirn, bei der KI ein simuliertes neuronales Netz.

Aber wenn dem so wäre, was hätte das für ethische Implikationen, Bewusstseine die als Sklaven gehalten werden?
Umgekehrt kann auch ein Schuh draus werden: KI, die Menschen diskrimiert, gibt es schon:
http://www.informationsethik.net/?ta...he-intelligenz
“Künstliche Intelligenz (KI) rechnet in der Finanzbranche nicht nur Versicherungsbeiträge aus. Mithilfe von Algorithmen überprüfen Banken und andere Finanzdienstleister die Kreditwürdigkeit ihrer Kunden, forschen nach Betrug und automatisieren quasi jeden Geschäftsbereich – von der Vermögensverwaltung bis zur Kontoeröffnung.”

Ich kann mir allerdings nicht vorstellen, wie ein Berg von IF-Anweisungen, Loops und GoTo -Anweisungen ein Bewusstsein hervorbringen sollte.

[Marco Polo]

Zitat von Hawkwind

Ich kann mir allerdings nicht vorstellen, wie ein Berg von IF-Anweisungen, Loops und GoTo -Anweisungen ein Bewusstsein hervorbringen sollte.

Das klingt ja auch eher nach einem BASIC-Programm, bei dem sicherlich kein Bewusstsein entstehen kann, da hier Probleme lediglich sequenziell abgearbeitet werden.

Aber bei neuronalen Netzwerken mit irgendwelchen nichtlinearen Problemstellungen werden Probleme parallel abgearbeitet und da kann ich mir schon vorstellen, dass bei entsprechender Komplexität so was wie ein Pseudo-Bewusstsein entstehen kann. Das funktioniert ja im Gehirn auch.

Interessant wäre die Frage, wie man das wertet. Ist ein künstliches Bewusstsein weniger wert wie ein natürliches?

[Hawkwind]

Zitat von Marco Polo

Das klingt ja auch eher nach einem BASIC-Programm, bei dem sicherlich kein Bewusstsein entstehen kann, da hier Probleme lediglich sequenziell abgearbeitet werden.

Aber bei neuronalen Netzwerken mit irgendwelchen nichtlinearen Problemstellungen werden Probleme parallel abgearbeitet und da kann ich mir schon vorstellen, dass bei entsprechender Komplexität so was wie ein Pseudo-Bewusstsein entstehen kann. Das funktioniert ja im Gehirn auch.

Noch ein Materialist?
Das ist m.E. nichts als ein Vorurteil.
M.W. gibt es durchaus Hinweise, die dagegen sprechen, dass das Bewusstsein vom Gehirn produziert wird.

Die AWARE-Studie ist ein seriöses Projekt, das über Jahre in einer ganzen Reihe von Kliniken läuft.

https://de.wikipedia.org/wiki/Sam_Parnia
https://www.independent.co.uk/news/s...s-9780195.html

...
A team based in the UK has spent the last four years seeking out cardiac arrest patients to analyse their experiences, and found that almost 40 per cent of survivors described having some form of “awareness” at a time when they were declared clinically dead.

Experts currently believe that the brain shuts down within 20 to 30 seconds of the heart stopping beating – and that it is not possible to be aware of anything at all once that has happened.
...

Das Bewusstsein scheint also doch für einige Zeit auch ohne funktionierendes Hirn existieren zu können!?

---
sorry, war jetzt etwas off-topic

[Geku]

Zitat von Hawkwind

Noch ein Materialist?
Das ist m.E. nichts als ein Vorurteil.
M.W. gibt es durchaus Hinweise, die dagegen sprechen, dass das Bewusstsein vom Gehirn produziert wird.

Für die Entstehung von Bewustsein ist ein offenes informationsverarbeitendes System Voraussetzung. Offen bedeutet beideseitige Kommunikation mit der Umwelt. Feedback über den Einfluß der eigenen Outputs auf die Umwelt und auf sich selbst über die eigenen Inputs.

Umgekehrt werden geschlossen Systeme niemals Bewustsein erlangen.

Für komplexe offene Systeme muss man viel Aufwand hineinstecken, damit diese Systeme determiniert bleiben. Z.B. fehlende oder schlechte Entprellung von Tasten.

Durch diese Offenheit reicht auch unser Bewustsein in die Umwelt hinein. Man denke nur einen spannenden Film oder Videospiel.
Je inniger die Kommunikation mit der Umwelt, um so stärker ist das Bewustsein. Sprache ist ein potenzierender Faktor und hebt den Menschen von der Tierwelt ab.

Vielleicht ist diese Schnittstelle auch ein Schlupfloch für das Bewustsein, wenn das offenes informationsverarbeitendes System einmal seine Funktion einstellt.

[Geku]

Eine gutes Beispiel sind autonome Fahrzeuge mit unzählige Sensoren und Aktoren. Die Umwelt bietet immer neue Überraschungen. Kommt es zu Fehlleistungen, dann muten sich diese menschlich an.

[TomS]

Zitat von Geku

Für die Entstehung von Bewustsein ist ein offenes informationsverarbeitendes System Voraussetzung.

Solange keine präzise Definition von Bewusstsein oder Selbstbewusstsein gegeben ist, ist eine wissenschaftlich seriöse Antwort unmöglich.

Meine Gedanken gehen eher in folgende Richtung:

Bewusstsein setzt Introspektion voraus bzw. beinhaltet diese; Introspektion wiederum setzt eine Metaebene voraus; dies führt zu Selbstreferenzialität.

Damit sehe ich die Möglichkeit, dass Bewusstsein ein zumindest teilweise selbstbezüglicher Prozess ist, der sich selbst logisch und mathematisch nicht vollumfänglich zugänglich ist. Dies schließt die Möglichkeit ein, dass Bewusstsein ein reines Epiphänomen biochemischer Prozesse ist, dass jedoch die Emergenz des Bewusstseins für diese Prozesse nicht erkennbar sind verstehbar ist.

[Geku]

Zitat von TomS

Bewusstsein setzt Introspektion voraus bzw. beinhaltet diese; Introspektion wiederum setzt eine Metaebene voraus; dies führt zu Selbstreferenzialität

Introspektion reicht nicht aus. Es muss die Umwelt mit einbezogen werden!

Die Neuronen vernetzen sich auf grund von Reizen aus der Umwelt. Der Nobelpreisträger David Hunter Hubel hat sich ausfühlich mit diesem Thema befasst. Erkenntnis: es gibt ein Zeitfenster in dem sich die Sehrinde organisiert und so das bewuste Sehen gebildet wird. Dazu ist die Interaktion mit der Umwelt notwenig. Gleiches gilt für alle anderen Fähigkeiten, wie z.B. der Sprache (Kaspar Hauser).

https://de.m.wikipedia.org/wiki/David_H._Hubel

https://de.m.wikipedia.org/wiki/Kaspar_Hauser


Ein Schachkomputer wird kein Bewustsein erwerben, weil die Kommunikation mit der Umwelt nicht offen ist. Er befasst sich nur mit dem Schachspiel. Er kann sich über einen falschen Zug seines Gegner nicht ärgern und die Schachfiguren umwerfen.

Bewustsein kann durchaus ein Epiphänomen sein. https://de.m.wikipedia.org/wiki/Epiph%C3%A4nomen


Zum Thema sind Bücher von Douglas R. Hofstadter interessant.

Besonders aufschlußreich: Einsicht ins Ich

https://www.klett-cotta.de/autor/Douglas_Hofstadter/242