 Hamid Shojanazeri
|
0854a74df1
update readme
|
hai 1 ano |
|
Hamid Shojanazeri
|
9d5fd77d70
fix typos
|
hai 1 ano |
|
Hamid Shojanazeri
|
273baf58f0
update READMEs
|
hai 1 ano |
|
Hamid Shojanazeri
|
dae93e3da7
update inference readme for codellama 70B instruct
|
hai 1 ano |
 Beto
|
fe40d7f60e
Adding the new llama inference code into the relevant readmes
|
hai 1 ano |
 Jeff Tang
|
add9623940
update README to refer to llama on prem
|
hai 1 ano |
 Matthias Reso
|
72a9832571
Merge branch 'main' into feature/package_distribution
|
hai 1 ano |
|
Matthias Reso
|
5ce80a51c0
Correct paths in inference examples
|
hai 1 ano |
|
Hamid Shojanazeri
|
a14363ca41
Update inference.md (#136)
|
hai 1 ano |
|
Matthias Reso
|
8df0365c03
Align examples paths to be called from main folder
|
hai 1 ano |
|
Matthias Reso
|
e39784dd9f
Adapt main inference doc to example folder changes
|
hai 1 ano |
|
Matthias Reso
|
18d4c3c580
Fix broken links
|
hai 1 ano |
|
Matthias Reso
|
69d921bec2
Updating inference.md with packaging context
|
hai 1 ano |
|
Hamid Shojanazeri
|
6105a3f886
clarifying the infilling use-case
|
hai 1 ano |
|
Hamid Shojanazeri
|
8b0008433c
fix typos
|
hai 1 ano |
|
Hamid Shojanazeri
|
3f2fb9167e
adding notes to model not supporting infilling
|
hai 1 ano |
 sekyonda
|
1e0e4fb8a9
Update inference.md
|
hai 1 ano |
|
Hamid Shojanazeri
|
4fa44e16d9
add note for python llama not suited for llama infilling
|
hai 1 ano |
|
Hamid Shojanazeri
|
d28fc9898a
addressing doc comments
|
hai 1 ano |
|
Hamid Shojanazeri
|
a234d1fe0c
fix typos
|
hai 1 ano |
|
Hamid Shojanazeri
|
1e8ea70b26
adding llama code inference
|
hai 1 ano |
|
sekyonda
|
58c6ae8f99
Update inference.md
|
hai 1 ano |
|
Hamid Shojanazeri
|
85a4ed1b65
Merge branch 'main' into update_paddings
|
hai 1 ano |
|
Hamid Shojanazeri
|
beab5726cc
add notes for padding
|
hai 1 ano |
|
Hamid Shojanazeri
|
44ef280d31
adding flash attention and xformer memory efficient through PT SDPA
|
hai 1 ano |
|
Hamid Shojanazeri
|
7d2e06821e
fixing the path to script
|
hai 1 ano |
|
Hamid Shojanazeri
|
9c95ed4bbe
clean up
|
hai 1 ano |
|
Hamid Shojanazeri
|
311a5c1eec
add notes for train_param.yaml
|
hai 1 ano |
|
Hamid Shojanazeri
|
5b916114eb
merge main branch
|
hai 1 ano |
|
Hamid Shojanazeri
|
569f8b7976
fixed arg names
|
hai 1 ano |
