-
Notifications
You must be signed in to change notification settings - Fork 0
/
rebuttal_eval.sh
111 lines (105 loc) · 2.47 KB
/
rebuttal_eval.sh
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
#!/bin/bash
#SBATCH -A plafnet2
#SBATCH -p plafnet2
#SBATCH -J SynFormer
#SBATCH --output=/tmp/SynFormerEval.out
#SBATCH -c 10
#SBATCH --gres=gpu:1
#SBATCH --mem-per-cpu=3500
#SBATCH --time=4-00:00:00
mkdir -p /scratch/arihanth.srikar/uspto50
export PYTHONUNBUFFERED=1
cp -r ~/p3_ablation_res /scratch/arihanth.srikar/uspto50
# evaluate best config so far with beam search
python llm.py \
--task SynFormer \
--project uspto50 \
--run p3_ablation_res \
--rotary_emb \
--n_layer 6 \
--n_head 8 \
--n_embd 512 \
--block_size 512 \
--batch_size 1 \
--grad_accum 2 \
--vocab_size 576 \
--learning_rate 0.001 \
--lr_scheduler onecycle \
--dividing_factor 10000 \
--dropout 0.1 \
--weight_decay 0.1 \
--num_epochs 1000 \
--generate_every 10 \
--ablation_res \
--device_ids 0 \
--beam_width 5 \
--save_dir /scratch/arihanth.srikar
python llm.py \
--task SynFormer \
--project uspto50 \
--run p3_ablation_res \
--rotary_emb \
--n_layer 6 \
--n_head 8 \
--n_embd 512 \
--block_size 512 \
--batch_size 1 \
--grad_accum 2 \
--vocab_size 576 \
--learning_rate 0.001 \
--lr_scheduler onecycle \
--dividing_factor 10000 \
--dropout 0.1 \
--weight_decay 0.1 \
--num_epochs 1000 \
--generate_every 10 \
--ablation_res \
--device_ids 0 \
--beam_width 3 \
--save_dir /scratch/arihanth.srikar
python llm.py \
--task SynFormer \
--project uspto50 \
--run p3_ablation_res \
--rotary_emb \
--n_layer 6 \
--n_head 8 \
--n_embd 512 \
--block_size 512 \
--batch_size 1 \
--grad_accum 2 \
--vocab_size 576 \
--learning_rate 0.001 \
--lr_scheduler onecycle \
--dividing_factor 10000 \
--dropout 0.1 \
--weight_decay 0.1 \
--num_epochs 1000 \
--generate_every 10 \
--ablation_res \
--device_ids 0 \
--beam_width 1 \
--save_dir /scratch/arihanth.srikar
python llm.py \
--task SynFormer \
--project uspto50 \
--run p3_ablation_res \
--rotary_emb \
--n_layer 6 \
--n_head 8 \
--n_embd 512 \
--block_size 512 \
--batch_size 1 \
--grad_accum 2 \
--vocab_size 576 \
--learning_rate 0.001 \
--lr_scheduler onecycle \
--dividing_factor 10000 \
--dropout 0.1 \
--weight_decay 0.1 \
--num_epochs 1000 \
--generate_every 10 \
--ablation_res \
--device_ids 0 \
--beam_width 100 \
--save_dir /scratch/arihanth.srikar