صفحهٔ اصلی گشت‌و‌گذار راهنما
ثبت نام ورود
marx
/
llama-recipes
1
0
انشعاب 0
پرونده‌ها مشکلات 0 درخواست واکشی 0 ویکی
فهرست منبع

Reorg inference throughput folder structure (#404)

Hamid Shojanazeri 11 ماه پیش
والد
d6eb83f6c5 367e4869ac
کامیت
6a7478a6aa
10فایلهای تغییر یافته به همراه0 افزوده شده و 0 حذف شده
مشاهده تقسیم شده نمایش آمار تفاوت ها
  1. 0 0
      recipes/benchmarks/inference_throughput/README.md
  2. 0 0
      recipes/benchmarks/inference_throughput/on-prem/README.md
  3. 0 0
      recipes/benchmarks/inference_throughput/on-prem/vllm/chat_vllm_benchmark.py
  4. 0 0
      recipes/benchmarks/inference_throughput/on-prem/vllm/input.jsonl
  5. 0 0
      recipes/benchmarks/inference_throughput/on-prem/vllm/parameters.json
  6. 0 0
      recipes/benchmarks/inference_throughput/on-prem/vllm/pretrained_vllm_benchmark.py
  7. 0 0
      recipes/benchmarks/inference_throughput/tokenizer/special_tokens_map.json
  8. 0 0
      recipes/benchmarks/inference_throughput/tokenizer/tokenizer.json
  9. 0 0
      recipes/benchmarks/inference_throughput/tokenizer/tokenizer.model
  10. 0 0
      recipes/benchmarks/inference_throughput/tokenizer/tokenizer_config.json

recipes/benchmarks/inference/README.md → recipes/benchmarks/inference_throughput/README.md
مشاهده فایل


recipes/benchmarks/inference/on-prem/README.md → recipes/benchmarks/inference_throughput/on-prem/README.md
مشاهده فایل


recipes/benchmarks/inference/on-prem/vllm/chat_vllm_benchmark.py → recipes/benchmarks/inference_throughput/on-prem/vllm/chat_vllm_benchmark.py
مشاهده فایل


recipes/benchmarks/inference/on-prem/vllm/input.jsonl → recipes/benchmarks/inference_throughput/on-prem/vllm/input.jsonl
مشاهده فایل


recipes/benchmarks/inference/on-prem/vllm/parameters.json → recipes/benchmarks/inference_throughput/on-prem/vllm/parameters.json
مشاهده فایل


recipes/benchmarks/inference/on-prem/vllm/pretrained_vllm_benchmark.py → recipes/benchmarks/inference_throughput/on-prem/vllm/pretrained_vllm_benchmark.py
مشاهده فایل


recipes/benchmarks/inference/tokenizer/special_tokens_map.json → recipes/benchmarks/inference_throughput/tokenizer/special_tokens_map.json
مشاهده فایل


recipes/benchmarks/inference/tokenizer/tokenizer.json → recipes/benchmarks/inference_throughput/tokenizer/tokenizer.json
مشاهده فایل


recipes/benchmarks/inference/tokenizer/tokenizer.model → recipes/benchmarks/inference_throughput/tokenizer/tokenizer.model
مشاهده فایل


recipes/benchmarks/inference/tokenizer/tokenizer_config.json → recipes/benchmarks/inference_throughput/tokenizer/tokenizer_config.json
مشاهده فایل