Ross Wightman a4d93cf6f8 An impl of adafactor as per big vision (scaling vit) changes

2024-11-03 17:08:58 -08:00

..

__init__.py

…

adabelief.py

…

adafactor_bv.py

…

adafactor.py

…

adahessian.py

…

adamp.py

…

adamw.py

…

adan.py

…

lamb.py

…

lars.py

…

lion.py

…

lookahead.py

…

madgrad.py

…

nadam.py

…

nadamw.py

…

nvnovograd.py

…

optim_factory.py

…

radam.py

…

rmsprop_tf.py

…

sgdp.py

…

sgdw.py

…