SFB 1481 A01
Gradientenabstiegsmethoden für das Lernen tiefer neuronaler Netze (A01)
| Coordinator | Professor Dr. Holger Rauhut ; Professor Dr. Michael Westdickenberg |
| Grant period | 2022 - |
| Funding body | Deutsche Forschungsgemeinschaft |
| DFG | |
| Identifier | G:(GEPRIS)504263168 |
⇧ SFB 1481: Sparsity und singuläre Strukturen ⇧
Note: Dieses Projekt zielt auf Fortschritte beim Verständnis der Konvergenzeigenschaften von (stochastischen) Gradientenabstiegsmethoden für das Training tiefer neuronaler Netze ab. Wir wollen mehrere Erweiterungen von vorläufigen Ergebnissen der PIs für (vollständig verbundene) lineare Netze erreichen. Zum Beispiel werden wir für das Training strukturierter linearer sowie nichtlinearer neuronaler Netze die Konvergenz zu globalen Minimierern untersuchen. Ein wichtiger Aspekt des Projekts wird die Untersuchung der Riemannschen Geometrie sein,die den entsprechenden Gradientenflüssen zugrunde liegt.