Hamid Shojanazeri 1 년 전
부모
커밋
0941a9ecf7
1개의 변경된 파일0개의 추가작업 그리고 1개의 파일을 삭제
  1. 0 1
      inference/chat_completion.py

+ 0 - 1
inference/chat_completion.py

@@ -11,7 +11,6 @@ from typing import List
 
 from peft import PeftModel, PeftConfig
 from transformers import LlamaConfig, LlamaTokenizer, LlamaForCausalLM
-from optimum.bettertransformer import BetterTransformer
 from safety_utils import get_safety_checker
 from model_utils import load_model, load_peft_model
 from chat_utils import read_dialogs_from_file, format_tokens