Hamid Shojanazeri 1 年之前
父節點
當前提交
b15ffeeaf4
共有 1 個文件被更改,包括 1 次插入1 次删除
  1. 1 1
      src/llama_recipes/finetuning.py

+ 1 - 1
src/llama_recipes/finetuning.py

@@ -45,9 +45,9 @@ from llama_recipes.utils.train_utils import (
     get_policies
 )
 
-import gc
 def main(**kwargs):
     gc.disable()
+    gc.collect(1)
     # Update the configuration for the training and sharding process
     update_config((train_config, fsdp_config), **kwargs)