Hamid Shojanazeri 76a187c4d2 clean up 1 anno fa
..
hf-text-generation-inference 4767f09ecd Initial commit 1 anno fa
chat_completion.py 4767f09ecd Initial commit 1 anno fa
chat_utils.py 4767f09ecd Initial commit 1 anno fa
chats.json 4767f09ecd Initial commit 1 anno fa
inference.md 4767f09ecd Initial commit 1 anno fa
inference.py 7ad5bd5ef2 adding inference updates 1 anno fa
model_utils.py 76a187c4d2 clean up 1 anno fa
safety_utils.py 4767f09ecd Initial commit 1 anno fa
samsum_prompt.txt 4767f09ecd Initial commit 1 anno fa
vLLM_inference.py 4767f09ecd Initial commit 1 anno fa