Domovská stránka Prehľadávať Pomoc
Registrovať Prihlásiť sa
marx
/
llama-recipes
1
0
Fork 0
Súbory Issues 0 Pull requesty 0 Wiki
Strom: 15053268b4
Branche Tagy
llama-recipes
/
inference
Hamid Shojanazeri 15053268b4 adding dist checkpoint handler for signle gpu 1 rok pred
..
hf-text-generation-inference 4767f09ecd Initial commit 1 rok pred
chat_completion.py 4767f09ecd Initial commit 1 rok pred
chat_utils.py 4767f09ecd Initial commit 1 rok pred
chats.json 4767f09ecd Initial commit 1 rok pred
inference.md 4767f09ecd Initial commit 1 rok pred
inference.py 15053268b4 adding dist checkpoint handler for signle gpu 1 rok pred
model_utils.py 25b60ee835 adding fsdp checkpoint loading 1 rok pred
safety_utils.py 4767f09ecd Initial commit 1 rok pred
samsum_prompt.txt 4767f09ecd Initial commit 1 rok pred
vLLM_inference.py 4767f09ecd Initial commit 1 rok pred