Zurück zu Glossary
Batch-Größe
Die Anzahl der Trainingsbeispiele, die in einem Forward-Backward-Pass verarbeitet werden. Größere Batch-Größen liefern stabilere Gradientenschätzungen, erfordern aber mehr Speicher und können zu schärferen Minima konvergieren. Beim Roboter-Lernen werden Batch-Größen oft durch den GPU-Speicher begrenzt, besonders beim Training mit hochauflösenden Bildern. Gradient Accumulation ermöglicht effektive große Batches auf limitierter Hardware.