Խոր ուսման մեջ կա՞ տարբերություն խմբաքանակի և մինի խմբաքանակի միջև:


պատասխանել 1:

Խմբաքանակի մշակումը օգտագործվում է գրադիենտ ծագման ալգորիթմում:

Գրադիենտ ծագման երեք հիմնական համերը խմբաքանակ են, ստոխաստիկ և մինի խմբաքանակ:

Դասընթացի գրադիենտ ծագումը հաշվարկում է դասընթացի տվյալների հավաքածուի յուրաքանչյուր օրինակի սխալը, բայց միայն վերազինում է մոդելը վերապատրաստման բոլոր օրինակների գնահատումից հետո: Սա հանգեցնում է ամենափոքր սխալի, բայց հաշվողականորեն ինտենսիվ է:

Ստոկատիկ գրադիենտ ծագումը հաշվում է սխալը և թարմացնում է մոդելը յուրաքանչյուր օրինակի համար դասընթացների տվյալների շարքում: Սա հանգեցնում է հիմնական սխալի, բայց շատ հեշտ է հաշվարկել: SGD- ն երբեմն օգտագործվում է համակարգերում, որոնք իրական ժամանակում պետք է թարմացվեն:

Այս երկու ալգորիթմի միջև փոխզիջումը մինի-խմբաքանակ է, որում տվյալների փոքր մասը օգտագործում եք որպես խմբաքանակ: Սա բնորոշ է երկու նմուշների հզորության համար, օրինակ. 256, 512. Մինի խմբաքանակի աստիճանական ծագումը խորհուրդ է տրվում կիրառությունների մեծ մասի համար, հատկապես խորը ուսման գործընթացում:

Համացանցում կա մի գեղեցիկ հոդված, որը մանրամասն նկարագրում է այս մեթոդները. Նուրբ ներածություն մինի խմբաքանակի գրադիենտ ծագման և խմբաքանակի չափի կազմաձևման մասին. Տիրապետող մեքենայի ուսուցում