Ross Wightman 5d7bd2973e convnext zepto, rmsnorm experiments

2024-09-30 11:43:23 -07:00

..

__init__.py

convnext zepto, rmsnorm experiments

2024-09-30 11:43:23 -07:00

activations_me.py

…

activations.py

…

adaptive_avgmax_pool.py

…

attention2d.py

…

attention_pool2d.py

…

attention_pool.py

…

blur_pool.py

…

bottleneck_attn.py

…

cbam.py

…

classifier.py

More Hiera updates. Add forward_intermediates to hieradat/sam2 impl. Make both use same classifier module. Add coarse bool to intermediates.

2024-08-16 11:10:04 -07:00

cond_conv2d.py

…

config.py

…

conv2d_same.py

…

conv_bn_act.py

…

create_act.py

Add WIP HieraDet impl (SAM2 backbone support)

2024-08-15 17:58:15 -07:00

create_attn.py

…

create_conv2d.py

…

create_norm_act.py

…

create_norm.py

convnext zepto, rmsnorm experiments

2024-09-30 11:43:23 -07:00

drop.py

…

eca.py

…

evo_norm.py

…

fast_norm.py

…

filter_response_norm.py

…

format.py

…

gather_excite.py

…

global_context.py

…

grid.py

…

grn.py

…

halo_attn.py

…

helpers.py

…

hybrid_embed.py

…

inplace_abn.py

…

interpolate.py

…

lambda_layer.py

…

layer_scale.py

Fix hiera init with num_classes=0, fix weight tag names for sbb2 hiera/vit weights, add LayerScale/LayerScale2d to layers

2024-08-15 11:14:38 -07:00

linear.py

…

median_pool.py

…

mixed_conv2d.py

…

ml_decoder.py

…

mlp.py

…

non_local_attn.py

…

norm_act.py

…

norm.py

convnext zepto, rmsnorm experiments

2024-09-30 11:43:23 -07:00

padding.py

Padding helpers work if tuples/lists passed

2024-07-19 14:28:03 -07:00

patch_dropout.py

Credit earlier work with the same idea.

2024-05-16 22:50:34 +02:00

patch_embed.py

…

pool2d_same.py

…

pos_embed_rel.py

…

pos_embed_sincos.py

…

pos_embed.py

…

selective_kernel.py

…

separable_conv.py

…

space_to_depth.py

…

split_attn.py

…

split_batchnorm.py

…

squeeze_excite.py

…

std_conv.py

…

test_time_pool.py

…

trace_utils.py

…

typing.py

…

weight_init.py

Rename global pos embed for Hiera abswin, factor out commonly used vit weight init fns to layers. Add a channels-last ver of normmlp head.

2024-08-15 17:46:36 -07:00