Dlaczego niezmiennicze sieci neuronowe nie są wykorzystywane w zwycięzcach popularnych konkursów?

Question

Jak wiadomo, nowoczesny najpopularniejszym CNN (splotowe sieć neuronowa): VGG/ResNet (FasterRCNN), SSD, Yolo, Yolo v2, DenseBox, DetectNet - są nie obracać niezmienna: Are modern CNN (convolutional neural network) as DetectNet rotate invariant?

znany również, że istnieje kilka sieci neuronowe o wykrywanie obiektów Rotate-niezmienność:

1. Rotation niezmienny Neoperceptron 2006 (PDF): https://www.researchgate.net/publication/224649475_Rotation-Invariant_Neoperceptron

2. rotacji Nauka niezmiennicze splotu filtry do klasyfikacji tekstur (2016 PDF): https://arxiv.org/abs/1604.06720

3. RIFD-CNN: obrót o stałej Fisher dyskryminacyjna splotowych Neural Networks do wykrywania obiektów 2016 (PDF): http://www.cv-foundation.org/openaccess/content_cvpr_2016/html/Cheng_RIFD-CNN_Rotation-Invariant_and_CVPR_2016_paper.html

4. Zakodowane Niezmienniczość w splotowych Neural Networks 2014 (PDF)

5. Niezmienne splotowe splotowe sieci neuronowe do przewidywania morfologii galaktyk (PDF): https://arxiv.org/abs/1503.07077

6. Learning Obrót niezmienny splotowy Sieci neuronowe do detekcji obiektów w VHR optyczne Remote Sensing Images 2016: http://ieeexplore.ieee.org/document/7560644/

Wiemy, że w takich konkursach obraz wykrywania jak: image-net MSCOCO Pascal VOC - używane sieci zespoły (jednocześnie niektóre sieci neuronowe). Lub zestawy sieciowe w pojedynczej sieci, takie jak ResNet (Residual Networks Behave Like Ensembles of Relatively Shallow Networks)

Ale są używane niezmienne kombinacje sieciowe w zwycięzcach, takich jak MSRA, a jeśli nie, to dlaczego? Dlaczego w zespole dodatkowa niezmienna sieć rotacyjna nie zwiększa dokładności wykrywania niektórych obiektów, takich jak obiekty lotnicze - które obrazy są wykonywane pod różnymi kątami obrotu?

To może być:

• obiekty powietrzne, które są fotografowane z ziemi

• lub naziemne obiekty, które są fotografowane z powietrza

Dlaczego rotacji -wariantowe sieci neuronowe nie są wykorzystywane w przypadku zwycięzców pularowe konkursy z wykrywaniem obiektów?

Answer 1

Niedawne postępy w rozpoznawaniu obrazu, który powstał głównie poprzez zmianę podejścia z klasycznym wyborem fabularnego - płytkie algorytm uczenia do nie wybór feture - głęboko algorytm uczenia nie była spowodowana tylko przez właściwości matematycznych splotowego neuronowych sieci.Tak - oczywiście ich zdolność do przechwytywania tych samych informacji przy użyciu mniejszej liczby parametrów była częściowo spowodowana przez ich niezmienną właściwość zmiany , ale ostatnia research wykazała, że ​​nie jest to klucz do zrozumienia ich sukcesu.

Moim zdaniem główną przyczyną tego sukcesu było opracowanie szybciej algorytmów uczenia niż bardziej matematycznie dokładny nich i dlatego mniej uwagę kładzie się na rozwój innego własności niezmienne sieci neuronowych.

Oczywiście - niezmienność obrotu nie jest w ogóle pomijana. Częściowo jest to spowodowane powiększaniem danych, w którym umieszczasz nieznacznie zmieniony (np. Obrócony lub przeskalowany) obraz do swojego zestawu danych - z tą samą etykietą. Jak możemy przeczytać w tym fantastic book te dwa podejścia (więcej struktury vs mniej struktury + rozszerzenie danych) są mniej więcej równoważne.

Answer 2

Zastanawiam się także, dlaczego społeczność lub uczony nie poświęciła dużo uwagi niezmiennej racji CNN jako @Alex.

Jedna z możliwych przyczyn, moim zdaniem, jest taka, że ​​wiele scenariuszy nie potrzebuje tej właściwości, szczególnie w przypadku popularnych konkursów. Jak wspomniał Rob, niektóre naturalne zdjęcia są już zrobione w zunifikowany poziomy (lub pionowy) sposób. Na przykład w wykryciu twarzy wiele prac wyrówna obraz, aby upewnić się, że ludzie stoją na ziemi przed podaniem do jakichkolwiek modeli CNN. Szczerze mówiąc, jest to najtańszy i najbardziej efektywny sposób na to konkretne zadanie.

Istnieje jednak kilka scenariuszy w prawdziwym życiu, które wymagają niezmiennej własności rotacji. Tak więc dochodzę do innego wniosku: ten pogląd nie jest trudny z punktu widzenia tych ekspertów (lub badaczy). Przynajmniej możemy użyć rozszerzenia danych w celu uzyskania niezmiennego obrotu.

Wreszcie, dziękuję bardzo za twoje podsumowanie na temat gazet. Dodałem jeszcze jeden papier Group Equivariant Convolutional Networks_icml2016_GCNN i jego implementation on github przez inne osoby.