Chester Hu
367e4869ac
Reorg inference throughput folder structure
|
1 рік тому | |
|---|---|---|
| .. | ||
| chat_vllm_benchmark.py | 1 рік тому | |
| input.jsonl | 1 рік тому | |
| parameters.json | 1 рік тому | |
| pretrained_vllm_benchmark.py | 1 рік тому | |
|
Chester Hu
367e4869ac
Reorg inference throughput folder structure
|
1 рік тому | |
|---|---|---|
| .. | ||
| chat_vllm_benchmark.py | 1 рік тому | |
| input.jsonl | 1 рік тому | |
| parameters.json | 1 рік тому | |
| pretrained_vllm_benchmark.py | 1 рік тому | |