 hongbo.mo
|
fcc817e923
bugfix: remove duplicate load_peft_model
|
hai 1 ano |
 Hamid Shojanazeri
|
85a4ed1b65
Merge branch 'main' into update_paddings
|
hai 1 ano |
|
Hamid Shojanazeri
|
51269b816f
moving Bt to the try block
|
hai 1 ano |
|
Hamid Shojanazeri
|
754b5d22c7
clean up and typo fixes
|
hai 1 ano |
|
Hamid Shojanazeri
|
bf4e0a134b
Add BT after peft module load
|
hai 1 ano |
|
Hamid Shojanazeri
|
44ef280d31
adding flash attention and xformer memory efficient through PT SDPA
|
hai 1 ano |
|
Hamid Shojanazeri
|
9b0eae4056
add max_pad length as an arg
|
hai 1 ano |
|
Hamid Shojanazeri
|
6beadcd8dd
adding padding to inference script with embedding size changing
|
hai 1 ano |
|
Hamid Shojanazeri
|
c4e96af6ee
clean up
|
hai 1 ano |
|
Hamid Shojanazeri
|
ceaf6301e9
remove the unused code
|
hai 1 ano |
|
Hamid Shojanazeri
|
a7fe0396c5
update to main
|
hai 1 ano |
|
Hamid Shojanazeri
|
7ad5bd5ef2
adding inference updates
|
hai 1 ano |
|
Hamid Shojanazeri
|
7ec390bfc8
aliging special tokens in toeknizer with HF latest
|
hai 1 ano |
|
Hamid Shojanazeri
|
15053268b4
adding dist checkpoint handler for signle gpu
|
hai 1 ano |
|
Hamid Shojanazeri
|
25b60ee835
adding fsdp checkpoint loading
|
hai 1 ano |
|
Hamid Shojanazeri
|
37dac0ebc5
adding time and tp config and new pad token
|
hai 1 ano |
 chauhang
|
4767f09ecd
Initial commit
|
hai 1 ano |
