Zitat:
Zitat von Geku
Ein Algorithmus ist eine eindeutige Handlungsvorschrift zur Lösung eines Problems (siehe Wikipadia).
Aus dieser Definition sind folgende Eigenschaften eines Algorithmus ableitbar: Das Verfahren muss in einem endlichen Text eindeutig beschreibbar sein (Finitheit). (siehe Wikipadia)
Dies trifft auf Neuronale Netzwerke nicht zu.
|
Aber sicher trifft das zu.
Ein NN besteht aus einem endlichen Input
x, einem endlichen Parametersatz
p, einem festen Algorithmus = einer Funktion
f, die aus Input und Parametersatz einen endlichen Output
y erzeugt und (während des Lernens) den Parametersatz zu
p’ anpasst. In endlicher Zeit, terminierend, deterministisch, turingberechenbar, mittels simpler Matrixoperationen und anderen algebraischen Operationen.
Man kann den Algorithmus je Durchlauf mittels
(y,p’) = f(x,p) zusammenfassen
Zitat:
Zitat von Geku
Information sind aus einem Neuronalen Netzwerk , nicht wie bei einem Algorithmus eines Computercodes, herauslesbar und in Schritten nachvollziehbar.
|
Natürlich kann die Information aus dem NN gewonnen werden; indem man es in einem PC einspeist und den Algorithmus ablaufen lässt.
Dass man dies dem Algorithmus nicht unmittelbar
ansieht bzw. nicht offensichtlich
herauslesen kann, bedeutet nicht, dass es kein Algorithmus wäre. Zur Definition eines Algorithmus gehört nicht, dass er einfach verstehbar ist.
https://mathematical-tours.github.io...NetworksEN.pdf
Mathematics of Neural Networks
Gabriel Peyré
CNRS & DMA
PSL, École Normale Supérieure
… Neural networks are algorithms, which compute, from an input x, an output y … Mathematically, such an algorithm defines a function fw (i.e. y = fw(x)). The computer program that calculates this function is very simple: it is made up of a sequence of several stages, and each stage performs elementary calculations (additions, multiplications, and a maximum) … But what makes the huge difference between a “classical” algorithm and a neural network is that the latter depends on parameters, which are the weights of the neurons. Before using a neural network, these weights must be modified so that the algorithm can best solve the requested task. This is done using mathematical and algorithmic methods … Using these algorithms …
Die folgende Definition des Begriffs trifft vollumfänglich auf NNs zu:
https://de.m.wikipedia.org/wiki/Algorithmus
Eine Berechnungsvorschrift zur Lösung eines Problems heißt genau dann Algorithmus, wenn eine zu dieser Berechnungsvorschrift äquivalente Turingmaschine existiert, die für jede Eingabe, die eine Lösung besitzt, stoppt.
Aus dieser Definition sind folgende Eigenschaften eines Algorithmus ableitbar:
Das Verfahren muss in einem endlichen Text eindeutig beschreibbar sein (Finitheit).
Jeder Schritt des Verfahrens muss tatsächlich ausführbar sein (Ausführbarkeit).
Das Verfahren darf zu jedem Zeitpunkt nur endlich viel Speicherplatz benötigen (Dynamische Finitheit).
Das Verfahren darf nur endlich viele Schritte benötigen (Terminierung).
Darüber hinaus wird der Begriff Algorithmus in praktischen Bereichen oft auf die folgenden Eigenschaften eingeschränkt:
Der Algorithmus muss bei denselben Voraussetzungen das gleiche Ergebnis liefern (Determiniertheit).
Die nächste anzuwendende Regel im Verfahren ist zu jedem Zeitpunkt eindeutig definiert (Determinismus).