Jaka jest różnica między algorytmem Forward-backward na modelu n-gramowym a algorytmem Viterbiego na modelu Hidden Markov (HMM)?Jaka jest różnica między algorytmem Forward-backward a algorytmem Viterbiego?
Kiedy sprawdzam implementację tych dwóch algorytmów, odkryłem tylko, że prawdopodobieństwo transakcji pochodzi z różnych modeli probabilistycznych.
Czy istnieje różnica między tymi dwoma algorytmami?
Algorytm "Forward-Backward" łączy krok "przód" i "krok wstecz", aby uzyskać prawdopodobieństwo bycia w każdym stanie w określonym czasie. Wykonanie tej czynności dla wszystkich kroków czasowych może dać nam sekwencję indywidualnie najbardziej prawdopodobnych stanów za każdym razem (choć nie gwarantuje się, że jest to poprawna sekwencja, ponieważ bierze pod uwagę indywidualny stan na każdym etapie i może się zdarzyć, że prawdopodobieństwo p(q_i -> q_j)=0 w modelu przejścia), innymi słowy:
, gdzie 
z drugiej strony, Viterbi algorytm wyszukuje najbardziej prawdopodobną sekwencję stanu danej sekwencji obserwacji, poprzez maksymalizację inny optymalności kryterium:
Proponuję odwołać się do tego znanego papieru o szczegółowe wyjaśnienie (patrz Zadanie nr 2):
LAWRENCE R. Rabiner, tutorial Ukryty model Markowa i wybranych Applications w mowie uznanie
Zwięźle umieścić:
przód-tył jest używany, jeśli tylko chcemy przewidzieć, co najprawdopodobniej jest żeton w jednym konkretnym momencie. Uwzględnienie każdej możliwej sekwencji i średniej ich liczby pozwoli na znalezienie najbardziej prawdopodobnego tokena w tym czasie. Tak więc sekwencja, którą otrzymasz, nie będzie prawdziwą sekwencją, ale zbieraniem najbardziej prawdopodobnych tokenów, gdy weźmiesz pod uwagę wszystkie możliwe sekwencje.
Viterbi służy do wyszukiwania najbardziej prawdopodobnej sekwencji zdarzeń. Spojrzymy na każdą sekwencję i po prostu wybierz najbardziej prawdopodobną sekwencję.
Spójrz na strony 262 - 264 z Rabiner's paper i wszystko powinno stać się jasne. Oto cytowany bezpośrednio odpowiedź -od tego papierniczym na pytanie:
”... Należy zauważyć, że algorytm Viterbiego jest podobna (z wyjątkiem do etapu wycofywania) we wdrażaniu do przodu obliczanie algorytmu przesunięcia w przód/w tył (równania 19-21) Główna różnica polega na maksymalizacji w (równanie 33a) w stosunku do poprzednich stanów , który jest stosowany zamiast procedury sumowania w (równanie 20). "