बैच आकार
एक फॉरवर्ड-बैकवर्ड पास में संसाधित प्रशिक्षण उदाहरणों की संख्या। बड़े बैच आकार अधिक स्थिर ग्रेडिएंट अनुमान प्रदान करते हैं लेकिन अधिक मेमोरी की आवश्यकता होती है और तीव्र न्यूनतम में अभिसरित हो सकते हैं। रोबोट सीखने में, बैच आकार अक्सर GPU मेमोरी द्वारा सीमित होते हैं, विशेष रूप से उच्च-रिज़ॉल्यूशन छवियों पर प्रशिक्षण करते समय। ग्रेडिएंट संचय सीमित हार्डवेयर पर प्रभावी बड़े बैच सक्षम करता है।







