KI - Gefahr, Herausforderung, Chance?

[TomS]

Zitat von Geku

Weder Schach noch Go sind Beispiele menschlicher Intelligenz.

Natürlich ist das ein Beispiel. Der menschliche Verstand war über Jahrzehnte den Algorithmen überlegen; war das jetzt „dumm“?

Zitat von Geku

Ein wesentlich besseres Beispiel ist Pokern:

Entscheidungen unter unvollständiger Information gibt es weder beim Schach noch bei Go, aber beim Pokern.

In allen Fällen haben alle Beteiligten immer die selbe Informationen.

Was soll das für einen Unterschied machen? Ist der Pokerspieler intelligenter als der Schachspieler?

[Geku]

Zitat von TomS

Natürlich ist das ein Beispiel. Der menschliche Verstand war über Jahrzehnte den Algorithmen überlegen; war das jetzt „dumm“?

Ich finde es gibt einen bedeutenden Unterschied bei den Algorithmen zwischen Computern (mit sequenziellem Programmablauf) und neuronalen Netzwerken. Computer haben einen auf das zu lösende Problem festgelegten Algorithmus, Neuronale Netzwerke haben zwar eine feste Verdrahtung, ihr Algorithmus **) wird durch die Gewichtung der einzelnen Netzwerknoten flexibel festgelegt.

Zitat von TomS

Ist der Pokerspieler intelligenter als der Schachspieler?

Beide passieren auf neuronale Netzwerke und sind flexibel genug um ihre Rollen zu tauschen. Damit kann man per se auf Grund der Aufgabe keinen Unterschied feststellen.

Anders zwischen einem Pokerspieler und einem Schachcomputer, aufgrund der Eingangs angeführten Feststellung.

**) wobei ich hier von Algorithus zu sprechen vorsichtig sein würde, da für mich dieser eine sequenzielle Handlungsvorschrift ist, dies bei der Gewichtung, in dieser Form, nicht der Fall ist. Für mich hat die Gewichtung eher einen holografischen Charakter, der den Output auf Grund dieser Eigenschaft infolge des Inputs liefert. Computerprogramme laufen in einen vorgefertigten Korsett ab, deren Ablauf von inneren Varablen gesteuert wird. Dies spiegelt nur die Intelligenz des Programmierers wieder.

Computerprogramme sind Schritt für Schritt debugbar, ist das auch für neuronale Netzwerke möglich? Oder bleibt uns, wie eine Output bei einem bestimmten Input zustande kommt verborgen?

[Geku]

Zitat von sirius

Ich teile die Meinung mancher Forscher, daß uns die KI irgendwann überlistet und die Herrschaft übernehmen wird.

Darum sollte die Menschheit als "Schöpfer" sich immer einen Notausschalter vorbehalten.

Eine große Change wäre, wenn KI für eine gerechte Verteilung von Resourcen sorgen könnte. Aber sie könnte auch von Menschen dagegen beeinflußt werden. Dies würde der KI, wenn auch im negativen Sinn, einen menschlichen Charakter verleihen.

[TomS]

Zitat von Geku

Ich finde es gibt einen bedeutenden Unterschied bei den Algorithmen zwischen Computern (mit sequenziellem Programmablauf) und neuronalen Netzwerken. Computer haben einen auf das zu lösende Problem festgelegten Algorithmus, Neuronale Netzwerke haben zwar eine feste Verdrahtung, ihr Algorithmus **) wird durch die Gewichtung der einzelnen Netzwerknoten flexibel festgelegt.

Ja, bekannt.

Ein neuronales Netz implementiert einen Algorithmus - und zwar für alle Aufgaben, ob jetzt Schach, Bilderkennung oder Language Processing … im Wesentlichen immer den selben - und sogar einen deutlich simpleren als z.B. ein herkömmliches Schachprogramm.

Zitat von Geku

**) wobei ich hier von Algorithus zu sprechen vorsichtig sein würde, da für mich dieser eine sequenzielle Handlungsvorschrift ist, dies bei der Gewichtung, in dieser Form nicht der Fall ist.

Falsch.

Es ist ein extrem simpler, sequentieller Algorithmus. Letztlich lineare Algebra.

Hast du schon mal ein NN programmiert?

Zitat von Geku

Für mich hat die Gewichtung eher einen holografischen Charakter, der den Output auf Grund dieser Eigenschaft infolge des Inputs liefert.

Warum so geheimnisvoll?

Zitat von Geku

Computerprogramme laufen in einen vorgefertigten Korsett ab, deren Ablauf von inneren Varablen gesteuert wird. Dies spiegelt nur die Intelligenz des Programmierers wieder.

Ja, gilt auch für NNs.

Zitat von Geku

Computerprogramme sind Schritt für Schritt debugbar, ist das auch für neuronale Netzwerke möglich?

Ja.

Zitat von Geku

Oder bleibt uns, wie eine Output bei einem bestimmten Input zustande kommt verborgen?

Nein, er ist offensichtlich trivial berechenbar, wie gesagt, lineare Algebra.

Du verwechselst ständig die Frage der Komplexität / Intelligenz / Mächtigkeit / … des Algorithmus mit deinem Verständnis desselben.

Wenn du einem trainierten NN das Bild einer Katze präsentierst und dieses “Katze” ausgibt, dann suchst du irgendwie einen größeren Plan dahinter, echtes Verständnis o.ä. Warum? Erwartest du das auch im menschlichen Gehirn? Was, wenn es da nichts gibt außer den Neuronen? Warum werden aus einfachen chemischen Bausteinen Blumen? Oder Menschen? Gibt es etwas anderes als eine letztlich einfache Schrödingergleichung, der das alles gehorcht?

Nur weil wir nicht in der Lage sind, emergente Phänomene auf Basis der elementaren Mechanismen zu verstehen, bedeutet das doch nicht, dass es mehr als diese elementaren Mechanismen gibt.

Mir kommen die Argumente gegen den Reduktionismus immer extrem unwissenschaftlich bis religiös vor: es darf nicht sein, dass es so einfach ist, weil dann das Geheimnis, das Besondere, die Seele … verschwunden wäre.

[Geku]

Zitat von Geku Beitrag anzeigen
**) wobei ich hier von Algorithus zu sprechen vorsichtig sein würde, da für mich dieser eine sequenzielle Handlungsvorschrift ist, dies bei der Gewichtung, in dieser Form nicht der Fall ist.

Falsch.

Es ist ein extrem simpler, sequentieller Algorithmus. Letztlich lineare Algebra.

Hast du schon mal ein NN programmiert?

Ich sprach nicht von einem simulierten N.N., sondern von einer realen Anordung von Neuronen. Der Ausgang ist durch die Sigmoidfunktion nicht linear.

Ich hatte einmal eine Diskette mit einer N.N. Simulation. Dieser konnte man Ziffern anlernen. Man könnte sich in einer Matrix ansehen wie sich die Gewichtung der einzelnen Netzwerksknoten verändert hat. Das passierte an vielen Knoten "gleichzeitig".
Wir erklärt die "linearen Algebra" das Übertrainieren von N.N.

Zitat:
Zitat von Geku Beitrag anzeigen
Für mich hat die Gewichtung eher einen holografischen Charakter, der den Output auf Grund dieser Eigenschaft infolge des Inputs liefert.

Warum so geheimnisvoll?

Bei einem Hologramm kann man Teile entfernen, ohne dass sich das Ergebnis ändert. Gleiches passiert auch bei einem N.N. wenn man einzelne Neuronen entfernt. Die Information bleibt, anders als beim Computer erhalten. Bei Hologrammen und N.Ns ist die Information verteilt.
Computerprogramme kann man in kleine Teile zerlegen um diese zu verstehen.
Bei Hologramme und N.N. bringt die Zerlegung nichts.
Was ist daran geheiminsvoll?

Zitat:
Zitat von Geku Beitrag anzeigen
Oder bleibt uns, wie eine Output bei einem bestimmten Input zustande kommt verborgen?
Nein, er ist offensichtlich trivial berechenbar, wie gesagt, lineare Algebra.

Du verwechselst ständig die Frage der Komplexität / Intelligenz / Mächtigkeit / … des Algorithmus mit deinem Verständnis desselben.

Wenn du einem trainierten NN das Bild einer Katze präsentierst und dieses “Katze” ausgibt, dann suchst du irgendwie einen größeren Plan dahinter, echtes Verständnis o.ä. Warum? Erwartest du das auch im menschlichen Gehirn? Was, wenn es da nichts gibt außer den Neuronen? Warum werden aus einfachen chemischen Bausteinen Blumen? Oder Menschen? Gibt es etwas anderes als eine letztlich einfache Schrödingergleichung, der das alles gehorcht?

Nur weil wir nicht in der Lage sind, emergente Phänomene auf Basis der elementaren Mechanismen zu verstehen, bedeutet das doch nicht, dass es mehr als diese elementaren Mechanismen gibt.

Mir kommen die Argumente gegen den Reduktionismus immer extrem unwissenschaftlich bis religiös vor: es darf nicht sein, dass es so einfach ist, weil dann das Geheimnis, das Besondere, die Seele … verschwunden wäre.

Komplexität, Intelligenz und Mächtigkeit hängen von einander ab, sind aber nicht das selbe. Ohne Komplexität keine Intelligenz.

Wird werden nicht in der Lage sein, für ein auf Katzen trainiertes N.N., die "linearen Gleichungen" anzugeben. Oder auf Grund der Gewichtungen der Neuronen des trainiertes N.Ns zwischen Katzen und Hunden zu unterscheiden. Trotzdem bin ich Optimist und glaube, dass mit der Zeit immer mehr "Geheimnisse" gelüftet werden. Auch was die immer komplexer werdende Materie bis zur Mächtigkeit Intelligenz und Bewustsein zu bilden betrifft. Die Schrödingergleichung ist nur das Fundament.

Warum sollten wir emergente Phänomene mit Zunahme unseres Wissens nicht verstehen. Ich denke nur an die Temperatur, die duch dass Zusammenspiel einer unüberschaubaren Anzahl von Teilchen zustande kommt. Zu unseren Verständnis von Temperatur: https://de.wikipedia.org/wiki/Temperatur
Wir werden mit zunemenden Wissen auch andere emergente Phänomene verstehen. Welches Verständnis hatte man vor zwei Hundert Jahren von der Temperatur?

Mir, als Agnostiker, liegt es fern, nach Argumente gegen den Reduktionismus zu suchen. Wir werden unser Universum nur durch wissenschaftliche Methoden verstehen.

Interessant ist, dass emergente Phänomene immer mit einer unüberschaubaren Menge von Teilen zu tun hat. Wie z.B. Temperatur und Bewusstsein.

Zum Thema passend: Spektrum der Woche 05/2018 "Ist die Realität mehr als die Summe ihrer Teile?"

[sirius]

Hier mehr zur KI LaMDA von Google

Google Hat Gerade Seine Künstliche Intelligenz Nach Dieser Erschreckenden Nachricht Abgeschaltet

https://youtu.be/pCc0r3Fph_g

[sirius]

KI ist nicht mehr wegzudenken aus dem Leben.

Es gibt zwar noch viele Menschen, die mit der Anwendung 'fremdeln', aber letztlich wird sich wohl auf längere Sicht die Anwendung im Alltag durchsetzen.
Für unbedenklich halte ich die Nutzung trotzdem nicht.
Falschinformation ist nur ein Punkt, der kritisch betrachtet werden sollte....

ChatGPT: KI-Expertin und Mathe-YouTuber über Zukunft von Bildung, Arbeit & Freizeit | ZDFheute live

https://www.youtube.com/watch?v=c7acvez9RwE

[Eyk van Bommel]

Zitat von sirius

KI ist nicht mehr wegzudenken aus dem Leben

Tatsächlich verwende ich ChatGPT mittlererweile beruflich. Wenn ich Texte schreiben muss und nicht den Anfang finde / einen Zugang zum Thema.

Ich denke 80% der 0815 Texte in den Medien werden oder könnten von einer KI geschrieben werden.

Das was irgendwie immer wieder, wiedergekäut wird, wie z.B. die Einleitung in eine Publikation. Abschreiben nicht erlaubt aber doch immer dasselbe.

Was ich an KI interessant finde ist, dass sie gerade dort ganz gut funktioniert, wo wir künstlerische Freiheit sehen/vermuten und dort nicht, wo wir Logik sehen.
KI kann Bilder, Musik oder Filmsequenzen erzeugen die gefallen - aber am Bayern-Abi scheitern.

Sie wird als erstes für die "kreativen" Berufe "gefährlich" - wer hätte es gedacht?

Gruß,
EvB

[Geku]

Die EU will der Nutzung einen Riegel vorschieben:

https://www.heise.de/meinung/Komment...U-7522179.html

Zurecht?

[Mike]

Ein solches Verbot würde wieder allem die Krone aufsetzen.
Die sollten lieber Cookies verbieten.