Skip to Main Content
Table 7: 
Results for the Antonym Negation probe. Accuracy over two answer candidates (random is 50%).
ModelZeroMLPMLMLinearLangSense
 shot WS Max WS Max pert nolang 
RoBERTa-L 75 85 91 77 84 14 21 
BERT-WWM 57 70 81 61 73 
BERT-L 51 70 82 58 74 
 
BERT-B 52 68 81 59 74 
RoBERTa-B 57 74 87 63 78 10 16 
 
Baseline 47 67 80 
ModelZeroMLPMLMLinearLangSense
 shot WS Max WS Max pert nolang 
RoBERTa-L 75 85 91 77 84 14 21 
BERT-WWM 57 70 81 61 73 
BERT-L 51 70 82 58 74 
 
BERT-B 52 68 81 59 74 
RoBERTa-B 57 74 87 63 78 10 16 
 
Baseline 47 67 80 
Close Modal

or Create an Account

Close Modal
Close Modal