Ինչպե՞ս կարող եմ ասել EM- ի ալգորիթմի և MLE- ի տարբերությունը:


պատասխանել 1:

Սպասման առավելագույն չափման ալգորիթմը (EM) փորձում է գտնել առավելագույն հավանականության նախահաշիվը (MLE) ՝ լատենտային փոփոխականներով մոդելի պարամետրերի համար: Պարամետրերը լատենտային փոփոխականներ չեն, բայց մարգինալացված են: Չնայած նրան, որ EM- ն երաշխավորված չէ համընկնում գլոբալ առավելագույնին, այն երաշխավորված է առավելագույնը համընկնում և յուրաքանչյուր քայլի հետ բարելավել մոդելի հավանականությունը: Տիպիկ օրինակ է Baum-Welch ալգորիթմը, որն օգտագործվում է պետության տիեզերական մոդելները հարմարեցնելու համար:


պատասխանել 2:

Ես այժմ ուսումնասիրում եմ այս հայեցակարգը և հուսով եմ, որ իմ պատասխանը ճիշտ է, բայց ես կգնահատեի հետադարձ կապը նաև այն բարելավելու համար:

Իմ կարծիքով, MLE- ն հավանականության գործառույթը գնահատելու միջոց է ՝ առանց հավանականությունը հաշվի առնելու սկզբից: Այլ կերպ ասած, երբ մենք 5-ն ստանալու համար մահանում ենք գլորում, MLE- ն ամենաբարձր միավորը հանձնում է բաշխմանը (եկեք այն անվանենք Batman բաշխում), որն ունի 3 հավանականության համար 1-ի հավանականություն, իսկ մյուսների համար `0: (որը հաշվիչ է) - ինտուիտիվ)

Այնուամենայնիվ, EM- ի ալգորիթմը ի սկզբանե հաշվի է առնում այն ​​գիտելիքները, որ արդար մահվան դեպքում 5-ի հավանականությունը 1/6-ն է: Հետևաբար, սա հաշվի է առնվում EM ալգորիթմի E- քայլը ստեղծելիս: Իրականում դա անելու մի քանի եղանակ կա, օրինակ. Բ-ն ըստ Բայեսյան գերակայությունների, Մարկովի մոդելների և այլն:

Եթե ​​ինչ-որ մեկը սխալ է գտնում իմ հասկանալու մեջ, խնդրում ենք առաջարկել խմբագրում:


պատասխանել 3:

MLE- ն առաջարկում է թիրախային գործառույթ, որը պետք է օպտիմիզացվի նշված տվյալների համար:

Օպտիմալացումը ինքնին կարող է իրականացվել տարբեր եղանակներով: EM- ն (ակնկալիքների մաքսիմումացում) օպտիմալացման եղանակներից մեկն է: Կարող են օգտագործվել նաև բոլոր այլ տեսակի օպտիմիզացիաներ:

Մի խոսքով, MLE- ը սահմանում է օպտիմիզացիայի նպատակը, մինչդեռ EM- ն այն լուծում է iteratively: