Skip to Main Content
Table 5: 
Results for the Always-Never probe. Accuracy over five answer candidates (random is 20%).
ModelZeroMLPMLMLinearLangSense
 shot WS Max WS Max pert nolang 
RoBERTa-L 14 44 55 26 41 
BERT-WWM 10 46 57 32 52 
BERT-L 22 45 55 36 50 
 
BERT-B 11 44 56 30 52 
RoBERTa-B 15 43 53 25 44 
 
Baseline 20 46 56 
ModelZeroMLPMLMLinearLangSense
 shot WS Max WS Max pert nolang 
RoBERTa-L 14 44 55 26 41 
BERT-WWM 10 46 57 32 52 
BERT-L 22 45 55 36 50 
 
BERT-B 11 44 56 30 52 
RoBERTa-B 15 43 53 25 44 
 
Baseline 20 46 56 
Close Modal

or Create an Account

Close Modal
Close Modal