Explorar el Código

fix incorrect split of InstructionDataset

exhyy hace 1 año
padre
commit
69db75d425
Se han modificado 1 ficheros con 1 adiciones y 1 borrados
  1. 1 1
      src/llama_recipes/datasets/alpaca_dataset.py

+ 1 - 1
src/llama_recipes/datasets/alpaca_dataset.py

@@ -27,7 +27,7 @@ class InstructionDataset(Dataset):
     def __init__(self, dataset_config, tokenizer, partition="train"):
         self.ann = json.load(open(dataset_config.data_path))
         if partition == "train":
-            self.ann = self.ann
+            self.ann = self.ann[200:]
         else:
             self.ann = self.ann[:200]