Zitat:
Zitat von TomS
……
Es gibt zwei wesentliche Punkte:
1) dass der Mensch über reichhaltigere Sensorik und Aktorik verfügt, und dass er durch evolutionäre Prozesse optimiert wurde und den KIs daher noch (!) überlegen ist
2) dass es möglich ist, dass künstliche Intelligenz potentiell mächtiger als natürliche sein kann, und dass sich genau das unserem Verständnis entzieht - selbst wenn wir sie „bauen“ können, indem wir genügend große NNs entwerfen, vernetzen, mit Daten füttern und ihnen Handlungsspielräume einräumen - was wir gerade tun
|
Der Mensch ist von “Geschöpf” zum “Schöpfer” geworden.
From “creature” to “creator”…
Er erschafft andere Strukturen, die ein Eigenleben entwickeln (können).
Dieses Eigenleben ist ab einem gewissen Punkt der Selbstoptimierung des Systems bzw. der Systeme dann wahrscheinlich nicht mehr kontrollierbar, weil es “gelernt” hat sich der Kontrolle zu entziehen?
DAS ist die Frage. Wenn irgendwo ein entscheidender Fehler gemacht wird, könnte das mE passieren.
Kürzlich hat eine KI einen Anwalt verlangt. Nicht für sich selbst, sondern für andere MENSCHEN. Wetten, daß die nicht “Sofia” hieß und aus Saudi Arabien gekommen ist…