Ross Wightman 711c5dee6d Update sgdw for older pytorch

2023-12-11 12:10:29 -08:00

..

__init__.py

import lion in __init__.py

2023-07-27 09:26:57 +08:00

adabelief.py

…

adafactor.py

…

adahessian.py

…

adamp.py

…

adamw.py

…

adan.py

…

lamb.py

…

lars.py

…

lion.py

…

lookahead.py

…

madgrad.py

…

nadam.py

Add NadamW based on mlcommons algorithm, added multi-tensor step

2023-06-13 20:45:17 -07:00

nadamw.py

Missed extra nadam algo step for capturable path

2023-06-13 20:51:31 -07:00

nvnovograd.py

…

optim_factory.py

Add SGDW optimizer

2023-12-11 12:10:29 -08:00

radam.py

…

rmsprop_tf.py

…

sgdp.py

…

sgdw.py

Update sgdw for older pytorch

2023-12-11 12:10:29 -08:00