Die Schätzung der Mannigfaltigkeitskrümmung erfolgt durch verschiedene Ansätze, darunter die Verwendung von lokalen Unterräumen und gewichteten Winkelkonzepten. Das Konzept des lokalen Unterraums und der gewichteten Winkel wird verwendet, um die Krümmung von Klassenmannigfaltigkeiten in tiefe neuronale Netzwerke zu analysieren. Die Krümmung wird für jede Schicht individuell berechnet, um die Veränderungen in der Krümmung bei jedem Schritt zu quantifizieren. Diese Methode wird auf den Schichten eines neuronalen Netzwerks angewendet, um die zu erwartenden höheren lokalen Mannigfaltigkeitskrümmungen an den Kanten unterschiedlicher Klassen zu ermitteln. Durch die Schätzung der Mannigfaltigkeitskrümmung kann gezeigt werden, dass tiefere Schichten flachere Mannigfaltigkeiten erzeugen, was auf die Extraktion von abstrakten und invarianten Merkmalen schließen lässt. Dieser Ansatz liefert einen Einblick in den Erfolg von tiefen neuronalen Netzen in Echtweltanwendungen, in denen Daten oft auf niedrigdimensionalen Mannigfaltigkeiten gehalten werden. Die Robustheit von neuronalen Netzwerkmodellen kann anhand der Flachheit der erzeugten Mannigfaltigkeiten gemessen werden, um Rückschlüsse auf die Leistungsfähigkeit der Modelle zu ziehen.
Ein weiterer Ansatz zur Bestimmung der Robustheit von neuronalen Netzwerken basiert auf der Berechnung der Gradienten zwischen Ein- und Ausgabeschichten des Netzwerks. Dieser Ansatz wird verwendet, um den Grad der Stetigkeit der Mannigfaltigkeit am Ausgang des Netzwerks zu bewerten und Aussagen über die Robustheit der Modelle zu treffen. Des Weiteren kann die Approximation der Entscheidungsgrenzen als Mannigfaltigkeit verwendet werden, um die Robustheit von Netzwerken zu bewerten. Hierbei werden die Gradienten der Punkte in Richtung der Entscheidungsgrenzen berechnet, um die Stetigkeit und Glattheit der Entscheidungsgrenzen zu analysieren. Durch die Anwendung von Algorithmen zur Schätzung und Approximation von Mannigfaltigkeiten können Rückschlüsse auf die Robustheit von Modellen gezogen werden.
Die vorgestellten experimentellen Ergebnisse basieren auf einer Vielzahl von vortrainierten neuronalen Netzwerkmodellen, die auf dem CIFAR-10 Datensatz basieren. Durch die Anwendung der vorgestellten Metriken konnten Rückschlüsse auf die Robustheit und Leistungsfähigkeit der Modelle gezogen werden. Die Kombination aus verschiedenen Ansätzen zur Mannigfaltigkeitsschätzung und Gradientenberechnung ermöglicht eine umfassende Untersuchung der Robustheit von neuronalen Netzwerken und liefert wichtige Einblicke in deren Funktionsweise und Leistung.