O BYOL retira todos os negativos do SimCLR e pede que uma rede rápida alcance um alvo lento. A perda é curta; explicar por que a solução não colapsa exige...
Uma rede com milhões de parâmetros não merece aplausos por descobrir que x é igual a x. O autoencoder só começa a aprender quando copiar deixa de ser a saída...
BERT não prevê a próxima palavra. Ele esconde partes do texto, consulta os dois lados e transforma cada posição em uma representação contextual pronta para ser adaptada.
Esconder uma palavra parece uma brincadeira escolar. No BERT, essa brincadeira cria bilhões de exemplos sem rótulos e força cada token a prestar contas ao contexto dos dois lados.
Um mês antes de sua morte, o império se estendia por dois milhões de milhas quadradas. Descubra como a morte de Alexandre iniciou uma disputa épica por seus restos mortais....