Skip to Main Content
Table 5:
Hyperparameters for the Copying Task.
Model Learning Rate Decay Rate Batch Size 
LSTM — — — 
GRU — — — 
uRNN 0.001 0.9 128 
oRNN — — — 
EURNN 0.001 0.5 128 
GORU 0.001 0.9 128 
Model Learning Rate Decay Rate Batch Size 
LSTM — — — 
GRU — — — 
uRNN 0.001 0.9 128 
oRNN — — — 
EURNN 0.001 0.5 128 
GORU 0.001 0.9 128 

Note: The dash means the model fails the task with all possible hyperparameters.

Close Modal

or Create an Account

Close Modal
Close Modal