Ver código fonte

fixing the condition for moving to cuda (#33)

Geeta Chauhan 1 ano atrás
pai
commit
1838378e0a
1 arquivos alterados com 1 adições e 1 exclusões
  1. 1 1
      utils/train_utils.py

+ 1 - 1
utils/train_utils.py

@@ -85,7 +85,7 @@ def train(model, train_dataloader,eval_dataloader, tokenizer, optimizer, lr_sche
                 for key in batch.keys():
                     if train_config.enable_fsdp:
                         batch[key] = batch[key].to(local_rank)
-                    elif not train_config.quantization:
+                    else:
                         batch[key] = batch[key].to('cuda')       
                 outputs = model(**batch)
                 loss = outputs.loss