torchrun --nproc_per_node 1 example_text_completionpy --ckpt_dir llama-2-7b --tokenizer_path tokenizermodel --max_seq_len 128 --max_batch_size 4将上述sh文件改为python运行

import argparse from example_text_completion import main

parser = argparse.ArgumentParser() parser.add_argument('--ckpt_dir', type=str, default='llama-2-7b/') parser.add_argument('--tokenizer_path', type=str, default='tokenizer.model') parser.add_argument('--max_seq_len', type=int, default=128) parser.add_argument('--max_batch_size', type=int, default=4) args = parser.parse_args()

main(args)