KI - Gefahr, Herausforderung, Chance?

[sirius]

Erste KI als Nachrichtensprecher in China. Der Kollege, der 24/7 bereit ist, keine Pausen, keinen Urlaub braucht und auch sonst keine stoerenden Beduerfnisse hat.

Xinhua's first English AI anchor makes debut

https://www.youtube.com/watch?v=GAfiATTQufk

Ich schwanke zwischen Faszination und Besorgnis.

[sirius]

Ein Gedankenexperiment

https://www.youtube.com/results?sear...weise+umbringt

Wie realistisch ist das?

[JoAx]

Zitat von sirius

Erste KI als Nachrichtensprecher in China. Der Kollege, der 24/7 bereit ist, keine Pausen, keinen Urlaub braucht und auch sonst keine stoerenden Beduerfnisse hat.

Ich schwanke zwischen Faszination und Besorgnis.

Der Kollege spricht die Nachrichten nur vor. Er macht und findet diese nicht. Das machen (vorerst) Kollegen, die sehr wohl 'ne Menge an Bedürfnissen haben.

Die KI ist schon eine Herausforderung, ich würde aber raten, es nicht als Gefahr zu sehen. (Der Unterschied liegt in der persönlichen Einstellung. Gefahr => Angst, Lehmung = destruktiv. Herausforderung => das ist konstruktiv.) Man muss Fähigkeiten und Fertigkeiten entwickeln/erlernen, die so ein Kollege nicht haben kann, zumindest nicht so schnell.

Ich frage mich da in letzter Zeit bsw. - wie lange es wohl dauern wird, bis KIs anfangen werden, Software zu entwickeln? Und wie sollte mein "Lern-Vektor" aussehen, damit ich denen nicht in die Quere komme? Selber KIs entwickeln? Habe heute mein erstes Tutorial zum Thema absolviert. Wird aber noch 'ne Weile dauern, bis ich es richtig durchblicke.

Und nicht vergessen - Weltuntergangsthemen verkaufen sich besser als gute Nachrichten. Eine der wichtigen Fähigkeiten heutzutage ist - die Informationen, die eine(n) erreichen, filtern und richtig einordnen zu können.

In diesem Sinne ...

[Hawkwind]

Die wirklich spannendste Frage ist m.E., ob eine KI so etwas wie ein Bewusstsein besitzen kann. Die gängige Meinung ist wohl recht materialistisch, das Bewusstsein als Resultat einer hinreichend komplizierten Hardware/Software-Architektur, bei uns das Gehirn, bei der KI ein simuliertes neuronales Netz.

Aber wenn dem so wäre, was hätte das für ethische Implikationen, Bewusstseine die als Sklaven gehalten werden?
Umgekehrt kann auch ein Schuh draus werden: KI, die Menschen diskrimiert, gibt es schon:
http://www.informationsethik.net/?ta...he-intelligenz
“Künstliche Intelligenz (KI) rechnet in der Finanzbranche nicht nur Versicherungsbeiträge aus. Mithilfe von Algorithmen überprüfen Banken und andere Finanzdienstleister die Kreditwürdigkeit ihrer Kunden, forschen nach Betrug und automatisieren quasi jeden Geschäftsbereich – von der Vermögensverwaltung bis zur Kontoeröffnung.”

Ich kann mir allerdings nicht vorstellen, wie ein Berg von IF-Anweisungen, Loops und GoTo -Anweisungen ein Bewusstsein hervorbringen sollte.

[Marco Polo]

Zitat von Hawkwind

Ich kann mir allerdings nicht vorstellen, wie ein Berg von IF-Anweisungen, Loops und GoTo -Anweisungen ein Bewusstsein hervorbringen sollte.

Das klingt ja auch eher nach einem BASIC-Programm, bei dem sicherlich kein Bewusstsein entstehen kann, da hier Probleme lediglich sequenziell abgearbeitet werden.

Aber bei neuronalen Netzwerken mit irgendwelchen nichtlinearen Problemstellungen werden Probleme parallel abgearbeitet und da kann ich mir schon vorstellen, dass bei entsprechender Komplexität so was wie ein Pseudo-Bewusstsein entstehen kann. Das funktioniert ja im Gehirn auch.

Interessant wäre die Frage, wie man das wertet. Ist ein künstliches Bewusstsein weniger wert wie ein natürliches?

[Ich]

Zitat von Hawkwind

Ich kann mir allerdings nicht vorstellen, wie ein Berg von IF-Anweisungen, Loops und GoTo -Anweisungen ein Bewusstsein hervorbringen sollte.

Ich habe mal die Ansicht gehört, dass auch ein Heizungsthermostat Bewusstsein hat - nur eben ziemlich wenig. Das ist auch meine Meinung: Bewusstsein ist nichts qualitativ Neues, auch ein Basic-Programm kann Bewusstsein haben. Wenn es hinreichend komplex und schnell ist, auch mit dem Menschen vergeichbar.

Zitat von Marco Polo

Das klingt ja auch eher nach einem BASIC-Programm, bei dem sicherlich kein Bewusstsein entstehen kann, da hier Probleme lediglich sequenziell abgearbeitet werden.

Aber bei neuronalen Netzwerken mit irgendwelchen nichtlinearen Problemstellungen werden Probleme parallel abgearbeitet und da kann ich mir schon vorstellen, dass bei entsprechender Komplexität so was wie ein Pseudo-Bewusstsein entstehen kann. Das funktioniert ja im Gehirn auch.

Was ein nichtlineares neuronales Netzwerk rechnen kann, kann auch eine Turingmaschine rechnen, und ein Basicprogramm erst recht. Wenn da kein Bewusstsein entstehen kann, dann nirgendwo.

Interessant wäre die Frage, wie man das wertet. Ist ein künstliches Bewusstsein weniger wert wie ein natürliches?

Nun, bei Iain Banks zählte ein "Mind" (künstliches Bewusstsein) soviel wie ein paar Millionen Menschen, wenn es z.B. um Kriegstote ging. Weil sie entsprechend mehr Rechenleistung und damit "Bewusstsein" hatten.

[JoAx]

Beiträge in einem neuen Thread zusammengefasst.

[Hawkwind]

Zitat von Marco Polo

Das klingt ja auch eher nach einem BASIC-Programm, bei dem sicherlich kein Bewusstsein entstehen kann, da hier Probleme lediglich sequenziell abgearbeitet werden.

Aber bei neuronalen Netzwerken mit irgendwelchen nichtlinearen Problemstellungen werden Probleme parallel abgearbeitet und da kann ich mir schon vorstellen, dass bei entsprechender Komplexität so was wie ein Pseudo-Bewusstsein entstehen kann. Das funktioniert ja im Gehirn auch.

Noch ein Materialist?
Das ist m.E. nichts als ein Vorurteil.
M.W. gibt es durchaus Hinweise, die dagegen sprechen, dass das Bewusstsein vom Gehirn produziert wird.

Die AWARE-Studie ist ein seriöses Projekt, das über Jahre in einer ganzen Reihe von Kliniken läuft.

https://de.wikipedia.org/wiki/Sam_Parnia
https://www.independent.co.uk/news/s...s-9780195.html

...
A team based in the UK has spent the last four years seeking out cardiac arrest patients to analyse their experiences, and found that almost 40 per cent of survivors described having some form of “awareness” at a time when they were declared clinically dead.

Experts currently believe that the brain shuts down within 20 to 30 seconds of the heart stopping beating – and that it is not possible to be aware of anything at all once that has happened.
...

Das Bewusstsein scheint also doch für einige Zeit auch ohne funktionierendes Hirn existieren zu können!?

---
sorry, war jetzt etwas off-topic

[Timm]

Zitat von Ich

Ich habe mal die Ansicht gehört, dass auch ein Heizungsthermostat Bewusstsein hat - nur eben ziemlich wenig. Das ist auch meine Meinung: Bewusstsein ist nichts qualitativ Neues, auch ein Basic-Programm kann Bewusstsein haben. Wenn es hinreichend komplex und schnell ist, auch mit dem Menschen vergeichbar.

Meine nicht, aber es kommt natürlich darauf an, was man unter "Bewußtsein" versteht, wahllos eine Definition hier.

Ein Insekt, das sich Richtung Licht bewegt, folgt Instinkten oder besser einem Reflex. Ich glaube eher, daß Bewußtsein ab einer bestimmten Komplexität (z.B. Säugetiere) etwas qualitativ Neues ist. Und die Vorstufe zu Ich-Bewußstsein ist, was wiederum qualitativ neu ist.

Die Frage nach dem künstlichen Bewußtsein wird soweit ich das mitbekommen habe kontrovers diskutiert. Ich denke es ist prinzipiell möglich, dürfte aber noch ein weiter Weg sein.

[JoAx]

Intelligenz ist vlt. nicht gleich Bewustsein.

Man muss aber nicht bis zum Bewustsein vordringen, um auf erstaunliches zu stoßen. Ich habe vor einigen Wochen mit meinem Cousin bei einer Autofahrt über KI diskutiert, und er hat mir erzählt, dass bereits heutige KIs (korrekte) Antworten liefern, bei denen weder Fachleute (Ärtze etwa) noch Entwickler wissen, wie sie auf diese kommen.

Falls es jemanden interessiert, das hier
C# Artificial Intelligence (AI) Programming: A Basic Object Oriented (OOP) Framework for Neural Networks
ist das, was ich gestern ausprobiert habe.