ソースを参照

fix incorrect split of InstructionDataset

exhyy 1 年間 前
コミット
69db75d425
1 ファイル変更1 行追加1 行削除
  1. 1 1
      src/llama_recipes/datasets/alpaca_dataset.py

+ 1 - 1
src/llama_recipes/datasets/alpaca_dataset.py

@@ -27,7 +27,7 @@ class InstructionDataset(Dataset):
     def __init__(self, dataset_config, tokenizer, partition="train"):
         self.ann = json.load(open(dataset_config.data_path))
         if partition == "train":
-            self.ann = self.ann
+            self.ann = self.ann[200:]
         else:
             self.ann = self.ann[:200]