Treinamento em Precisão Mista

Treinar redes neurais usando uma mistura de aritmética de ponto flutuante de 16 bits (FP16 ou BF16) e 32 bits (FP32) para reduzir uso de memória e aumentar throughput mantendo estabilidade de treinamento. Precisão mista é padrão para treinar grandes modelos de aprendizado robótico em GPUs — reduz aproximadamente pela metade o consumo de memória e dobra o throughput comparado ao treinamento completo em FP32.

Related terms