sieci neuronowe nie mogą wykryć transformacji Fouriera?

Question

Próbuję zrozumieć kilka rzeczy o sieciach neuronowych. Po pierwsze, po rozejrzeniu się po sieci wydaje się, że nie ma sposobu na obliczenie (dyskretnej) transformacji Fouriera przez sieć neuronową. Możesz go zhackować, kodując go tak, by zawierał stałe Fouriera dla transformacji, a następnie uzyskać przyzwoity wynik. Dlaczego maszyna nie może sama tego dokonać?

Answer 1

DFT jest operatorem liniowym. Niektóre sieci neuronowe mają sigmoidalny lub inny nieliniowy element na ścieżce obliczeniowej, co może utrudnić dostateczną symulację operatora liniowego.

Dodano: Pełny DFT jest mnożeniem macierzy N na N. Sieć neuronowa musi być wystarczająco duża, aby reprezentować wiele multiplikacji (minimum O (NlogN)).

Answer 2

Jak rozumiem, sieć neuronowa jest po prostu metodą klasyfikacji, która "uczy się". Aby rozwiązać problem za pomocą sieci neuronowych trzeba:

1. Definiowanie wejść klasyfikatora
2. Definiowanie wyjść klasyfikatora
3. dostarczenie zestawu szkoleniowego: jest to zbiór par (wejście, wyjście)
4. Wybierz topologia (ile warstw, ile neuronów na warstwę ...) i funkcja poszczególnych neuronów użyje do konwertowania wejść do wyjść

Po przeszkoleniu sieci neuronowej, po wprowadzeniu nowego wejścia, sieć neuronowa produkuje wyjście. To, jak dobry jest wynik, zależy od tego, jak "dobre" było szkolenie. Zazwyczaj reprezentatywny dla danych jest zbiór danych treningowych. Ta technika może być bardzo przydatna podczas próby rozwiązania problemów klasyfikacyjnych, w których istnieje nieznana zależność między wejściami i wyjściami.

Szybka transformacja Fouriera to tylko funkcja. Możesz mieć FFT w jednej dimesion, który jest stosowany do jednowymiarowych zjawisk, takich jak fala dźwiękowa. W takim przypadku należy podać wektor wartości (próbki natężenia fali dźwiękowej) i uzyskać wektor częstotliwości. Dokładniej mówiąc, amplituda harmonicznych różnych częstotliwości, które po skomponowaniu wytwarzają oryginalną falę dźwiękową. W dwóch wymiarach FFT przyjmuje jako dane wejściowe matrycę. Przykładowo, dla obrazu może to być intensywność koloru w punktach siatki. FFT przekształca to w matrycę harmonicznych. Długość wektora lub kolejność macierzy są określone przez częstotliwość próbkowania sygnału ortitalnego.

celu zastosowania sieci neuronowej do obliczania FFT:

1. algorytm do obliczania FFT, w 1 i 2, wymiarów jest dobrze zdefiniowana. Jego złożoność to O (n log n), co czyni ją bardzo wydajną. Implementacja sieci neuronowej musiałaby być bardzo wydajna (paralelizm?), Aby usprawiedliwić korzystanie z niej.
2. Jeśli zmienisz częstotliwość próbkowania, musisz przekwalifikować sieć neuronową: załóżmy, że masz spętaną sieć, która oblicza FFT dla danej częstotliwości próbkowania, jeśli znacząco zmniejszysz częstotliwość próbkowania, sieć neuronowa "przebije" dane i viceversa.

Myślę, że sieci neuronowe doskonale pasują do konkretnej implementacji FFT, o ile parametry (częstotliwość próbkowania ...) nie ulegną zmianie.

Answer 3

Chyba znalazłam pracę badawczą na ten temat: http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.144.9688&rep=rep1&type=pdf

mówi, że „w celu osiągnięcia sieci neuronowej [że] przetwarza DFT, strategia musi być stosowany, który odwzorowuje matematyczną formułę DFT do struktury sieci neuronowej "i wydaje się, że dostali ją do pracy (sekcja 6).