Skip to Main Content
Table 3: 
Modeling results. Boldface indicates optimal performance in each row.
RtgEncod.ModelLPMeanLPPenLPNormLPSLOR
h Unidir. lstm 0.29 0.42 0.42 0.52 0.53 
lstm+ 0.30 0.49 0.45 0.61 0.63 
tdlm 0.30 0.49 0.45 0.60 0.61 
tdlm+ 0.30 0.50 0.45 0.59 0.60 
gpt2 0.33 0.34 0.56 0.38 0.38 
gpt2+ 0.38 0.59 0.58 0.63 0.60 
xlnetuni 0.31 0.42 0.51 0.51 0.52 
xlnetuni+ 0.36 0.56 0.55 0.61 0.61 
Bidir. bertcs 0.51 0.54 0.63 0.55 0.53 
bertcs+ 0.53 0.63 0.67 0.64 0.60 
bertucs 0.59 0.63 0.70 0.63 0.60 
bertucs+ 0.60 0.68 0.72 0.67 0.63 
xlnetbi 0.52 0.51 0.66 0.53 0.53 
xlnetbi+ 0.57 0.65 0.73 0.66 0.65 
— ub1 / ub1   0.75 / 0.66   
ub2 / ub2   0.92 / 0.88   
 
h+ Unidir. lstm 0.29 0.44 0.43 0.52 0.52 
lstm+ 0.31 0.51 0.46 0.62 0.62 
tdlm 0.30 0.50 0.45 0.59 0.59 
tdlm+ 0.30 0.50 0.46 0.58 0.58 
gpt2 0.32 0.33 0.56 0.36 0.37 
gpt2+ 0.38 0.60 0.59 0.63 0.60 
xlnetuni 0.30 0.42 0.50 0.49 0.51 
xlnetuni+ 0.35 0.56 0.55 0.60 0.61 
Bidir. bertcs 0.49 0.53 0.62 0.54 0.51 
bertcs+ 0.52 0.63 0.66 0.63 0.58 
bertcs 0.58 0.63 0.70 0.63 0.60 
bertcs+ 0.60 0.68 0.73 0.67 0.63 
xlnetbi 0.51 0.50 0.65 0.52 0.53 
xlnetbi+ 0.57 0.65 0.74 0.65 0.65 
— ub1 / ub1   0.73 / 0.66   
ub1 / ub2   0.92 / 0.89   
h Unidir. lstm 0.28 0.44 0.43 0.50 0.50 
lstm 0.27 0.41 0.40 0.47 0.47 
tdlm 0.29 0.52 0.46 0.59 0.58 
tdlm 0.28 0.49 0.44 0.56 0.55 
gpt2 0.32 0.34 0.55 0.35 0.35 
gpt2 0.30 0.42 0.51 0.44 0.41 
xlnetuni 0.30 0.44 0.51 0.49 0.49 
xlnetuni 0.29 0.40 0.49 0.46 0.46 
Bidir. bertcs 0.48 0.53 0.62 0.53 0.49 
bertcs 0.49 0.52 0.61 0.51 0.47 
bertucs 0.56 0.61 0.68 0.60 0.56 
bertucs 0.56 0.58 0.66 0.57 0.53 
xlnetbi 0.49 0.48 0.62 0.49 0.48 
xlnetbi 0.50 0.51 0.64 0.51 0.50 
— ub1 / ub1   0.75 / 0.68   
ub2 / ub2   0.92 / 0.88   
RtgEncod.ModelLPMeanLPPenLPNormLPSLOR
h Unidir. lstm 0.29 0.42 0.42 0.52 0.53 
lstm+ 0.30 0.49 0.45 0.61 0.63 
tdlm 0.30 0.49 0.45 0.60 0.61 
tdlm+ 0.30 0.50 0.45 0.59 0.60 
gpt2 0.33 0.34 0.56 0.38 0.38 
gpt2+ 0.38 0.59 0.58 0.63 0.60 
xlnetuni 0.31 0.42 0.51 0.51 0.52 
xlnetuni+ 0.36 0.56 0.55 0.61 0.61 
Bidir. bertcs 0.51 0.54 0.63 0.55 0.53 
bertcs+ 0.53 0.63 0.67 0.64 0.60 
bertucs 0.59 0.63 0.70 0.63 0.60 
bertucs+ 0.60 0.68 0.72 0.67 0.63 
xlnetbi 0.52 0.51 0.66 0.53 0.53 
xlnetbi+ 0.57 0.65 0.73 0.66 0.65 
— ub1 / ub1   0.75 / 0.66   
ub2 / ub2   0.92 / 0.88   
 
h+ Unidir. lstm 0.29 0.44 0.43 0.52 0.52 
lstm+ 0.31 0.51 0.46 0.62 0.62 
tdlm 0.30 0.50 0.45 0.59 0.59 
tdlm+ 0.30 0.50 0.46 0.58 0.58 
gpt2 0.32 0.33 0.56 0.36 0.37 
gpt2+ 0.38 0.60 0.59 0.63 0.60 
xlnetuni 0.30 0.42 0.50 0.49 0.51 
xlnetuni+ 0.35 0.56 0.55 0.60 0.61 
Bidir. bertcs 0.49 0.53 0.62 0.54 0.51 
bertcs+ 0.52 0.63 0.66 0.63 0.58 
bertcs 0.58 0.63 0.70 0.63 0.60 
bertcs+ 0.60 0.68 0.73 0.67 0.63 
xlnetbi 0.51 0.50 0.65 0.52 0.53 
xlnetbi+ 0.57 0.65 0.74 0.65 0.65 
— ub1 / ub1   0.73 / 0.66   
ub1 / ub2   0.92 / 0.89   
h Unidir. lstm 0.28 0.44 0.43 0.50 0.50 
lstm 0.27 0.41 0.40 0.47 0.47 
tdlm 0.29 0.52 0.46 0.59 0.58 
tdlm 0.28 0.49 0.44 0.56 0.55 
gpt2 0.32 0.34 0.55 0.35 0.35 
gpt2 0.30 0.42 0.51 0.44 0.41 
xlnetuni 0.30 0.44 0.51 0.49 0.49 
xlnetuni 0.29 0.40 0.49 0.46 0.46 
Bidir. bertcs 0.48 0.53 0.62 0.53 0.49 
bertcs 0.49 0.52 0.61 0.51 0.47 
bertucs 0.56 0.61 0.68 0.60 0.56 
bertucs 0.56 0.58 0.66 0.57 0.53 
xlnetbi 0.49 0.48 0.62 0.49 0.48 
xlnetbi 0.50 0.51 0.64 0.51 0.50 
— ub1 / ub1   0.75 / 0.68   
ub2 / ub2   0.92 / 0.88   
Close Modal

or Create an Account

Close Modal
Close Modal