SFB 1481 A01

Gradientenabstiegsmethoden für das Lernen tiefer neuronaler Netze (A01)

CoordinatorProfessor Dr. Holger Rauhut ; Professor Dr. Michael Westdickenberg
Grant period2022 -
Funding bodyDeutsche Forschungsgemeinschaft
 DFG
IdentifierG:(GEPRIS)504263168

SFB 1481: Sparsity und singuläre Strukturen

Note: Dieses Projekt zielt auf Fortschritte beim Verständnis der Konvergenzeigenschaften von (stochastischen) Gradientenabstiegsmethoden für das Training tiefer neuronaler Netze ab. Wir wollen mehrere Erweiterungen von vorläufigen Ergebnissen der PIs für (vollständig verbundene) lineare Netze erreichen. Zum Beispiel werden wir für das Training strukturierter linearer sowie nichtlinearer neuronaler Netze die Konvergenz zu globalen Minimierern untersuchen. Ein wichtiger Aspekt des Projekts wird die Untersuchung der Riemannschen Geometrie sein,die den entsprechenden Gradientenflüssen zugrunde liegt.
   

Recent Publications

There are no publications


 Record created 2023-01-05, last modified 2023-01-21