O orçamento de AlexNet, contra os 3 GiB de uma GTX 580

Quatro alavancas, e elas interagem. O lote multiplica as ativações e o rascunho do im2col, mas não os pesos; a precisão multiplica tudo; o split corta a conectividade de três camadas; e materializar ou não o im2col decide se o pico de memória fica no modelo ou no rascunho. A linha vermelha são os 3.072 MiB que o artigo declara por placa.

parâmetros
60.965.224
MACs / imagem
724.406.816
modelo
697,69
ativações
763,41
total
1.997,28