O desempenho alcançável é limitado por min(pico, banda × intensidade). Os dois pontos abaixo são as duas caras de um Transformer em inferência: uma GEMM quadrada de prefill e um GEMV de decode com d = 4096 em BF16. Mova o lote do decode e veja o ponto escalar o teto inclinado.