marx/llama-recipes @ 15053268b43ebb2acdd5c771656021545a578f7b

Hamid Shojanazeri 15053268b4 adding dist checkpoint handler for signle gpu		1 năm trước cách đây
..
hf-text-generation-inference	4767f09ecd Initial commit	1 năm trước cách đây
chat_completion.py	4767f09ecd Initial commit	1 năm trước cách đây
chat_utils.py	4767f09ecd Initial commit	1 năm trước cách đây
chats.json	4767f09ecd Initial commit	1 năm trước cách đây
inference.md	4767f09ecd Initial commit	1 năm trước cách đây
inference.py	15053268b4 adding dist checkpoint handler for signle gpu	1 năm trước cách đây
model_utils.py	25b60ee835 adding fsdp checkpoint loading	1 năm trước cách đây
safety_utils.py	4767f09ecd Initial commit	1 năm trước cách đây
samsum_prompt.txt	4767f09ecd Initial commit	1 năm trước cách đây
vLLM_inference.py	4767f09ecd Initial commit	1 năm trước cách đây