Taille de lot
Le nombre d'exemples d'entraînement traités en une passe avant-arrière. Les tailles de lot plus grandes fournissent des estimations de gradient plus stables mais nécessitent plus de mémoire et peuvent converger vers des minima plus aigus. En apprentissage robotique, les tailles de lot sont souvent limitées par la mémoire GPU, en particulier lors de l'entraînement sur des images haute résolution. L'accumulation de gradient permet des lots effectivement grands sur du matériel limité.







