Com a porta de atualização parada, a retenção é 1 - sigma(b_z) = sigma(-b_z), e o horizonte até 1e-12 vale -12 ln 10 / ln sigma(-b_z). É a mesma função de IL26 com o argumento trocado de sinal, e por isso memória longa aqui pede viés negativo. A linha tracejada é a régua: os 146,96 passos da recorrência de baunilha de IL24. O cruzamento acontece em -1,5757451280, e o viés padrão de todo mundo é zero.
A jacobiana tem três parcelas de vazamento, com U_z, U_n e U_r. Mas U_r só aparece dentro do fator que multiplica U_n. Desligue U_z e U_n, deixe U_r ligada, e compare com as três desligadas: as duas medidas são iguais. Foi essa medida que reprovou uma previsão do artigo e rendeu o resultado estrutural.
Sem treino nenhum. Com f = i = n = 1 a LSTM faz c_t = t exato. Com n = 1 e a porta parada, a GRU faz h_t = 1 - (1-z)^t, que sobe até o teto e para. Empurre o número de passos e veja em que passo a diferença entre duas contagens consecutivas cai abaixo do épsilon do double — dali em diante a GRU não distingue mais quantos, só algum.