Zitat:
Zitat von Marco Polo
Wer garantiert, dass sich eine KI, die der unseren irgendwann meilenweit überlegen ist, auch an diese Vorgaben hält und kein Eigenleben entwickelt?
|
Diesen Punkt haben wir eigentlich schon lange hinter uns gelassen. Jedes neuronale Netz hat ein charakteristisches Eigenleben, das man etwas überspitzt als Erfahrung bezeichnen könnte. Diese "Erfahrung" ist nicht statisch und entwickelt sich mit der Zeit gemäß von außen vorgebbaren Kriterien.
Und da ist es nun schon etwas gruselig, was neulich bei Facebook passiert ist, als zwei unabhängige Netze unerwartet damit begonnen haben halb verschlüsselte Sätze auszutauschen. Das zeigt, welches enorme prinzipielle Potenzial die KI hat.
Ich bin allerdings auch immer noch optimistisch genug, um daran zu glauben, dass man dieses Potenzial sinnvoll nutzen kann.