Szybkie LAPACK/BLAS dla mnożenia macierzy

Question

Obecnie badam bibliotekę Caddillo C++ dla algebry liniowej. Z tego co rozumiem, wykorzystuje bibliotekę LAPACK/BLAS do podstawowych operacji macierzy (np. Mnożenie macierzy). Jako użytkownik systemu Windows pobrałem LAPACK/BLAS stąd: http://icl.cs.utk.edu/lapack-for-windows/lapack/#running. Problem polega na tym, że multiplikacje macierzy są bardzo powolne w porównaniu do Matlab lub nawet R. Na przykład Matlab mnoży dwie macierze 1000x1000 w ciągu ~ 0,15 sekundy na moim komputerze, R potrzebuje ~ 1 sekundę, podczas gdy C++/Armadillo/LAPACK/BLAS potrzebuje więcej niż 10 sekund na to.

Tak, Matlab oparty jest na wysoce zoptymalizowanych bibliotekach dla algebry liniowej. Moje pytanie brzmi: czy istnieje szybsza braterka LAPACK/BLAS do użycia z Armadillo? Alternatywnie, czy istnieje sposób na wyodrębnienie bibliotek algebry liniowej Matlab i użycie ich w C++?

Answer 1

LAPACK nie robi mnożenia macierzy. To BLAS zapewnia mnożenie macierzy.

Jeśli masz 64-bitowy system operacyjny, polecam najpierw wypróbować 64-bitową wersję BLAS. To zapewni natychmiastowe podwojenie wydajności.

Po drugie, przyjrzyj się wysokowydajnej implementacji BLAS, takiej jak OpenBLAS. OpenBLAS wykorzystuje zarówno wektoryzację jak i równoległość (tj. Wielordzeniowość). Jest to darmowy (bezpłatny) projekt open source.

Matlab korzysta wewnętrznie z biblioteki Intel MKL, której można również używać z Armadillo library. Intel MKL jest zamkniętym źródłem, ale jest darmowy do użytku niekomercyjnego. Zauważ, że OpenBLAS może uzyskać wydajność mnożenia macierzy, która jest równa lub lepsza niż Intel MKL.

Należy pamiętać, że algebra liniowa o wysokiej wydajności jest zwykle łatwiejsza do osiągnięcia w systemach Linux i Mac OS X niż w systemie Windows.

Answer 2

czy istnieje sposób, aby wyodrębnić Matlab bibliotek algebry liniowej jakoś i wykorzystywać je w C++ Tak, dla C++ funkcji połączeń Matlab, odnoszą się do tego linku: How to Call Matlab Functions from C++

Answer 3

Kilka C++ lib do algebry liniowej zapewniają łatwą drogę do link do wysoko zoptymalizowanej lib.

spojrzenie na http://software.intel.com/en-us/articles/intelr-mkl-and-c-template-libraries

Powinieneś być w stanie połączyć Armadillo do MKL dla większej wydajności, ale jest to pakiet handlowy,

Answer 4

Dodając do tego, co już zostało powiedziane, należy użyć także wysoki poziom optymalizacji:

1. Należy używać albo O2 lub kompilator Flaga O3.

2. łączą się z wyżej wysoką wydajność (ewentualnie wielowątkowym) BLAS biblioteki. AFAIK MKL jest dostępny tylko na platformach Unix, ale jeśli używasz systemu Linux, takiego jak cygwin w oknach, to powinno być OK, tak myślę. OpenBLAS jest również wielowątkowy.

3. W wielu bibliotekach ustawianie symbolu NDEBUG (np. Przekazanie flagi kompilatora -DNDEBUG) wyłącza kosztowne sprawdzanie zakresu i asercje.Pancernik ma swój własny symbol, nazwany ARMA_NO_DEBUG, który możesz albo ustawić ręcznie, albo możesz edytować plik nagłówkowy config.hpp (znajdujący się w katalogu zawierającym pancernik) i odkomentować odpowiedni wiersz. Jestem zgadywania, ponieważ byli w stanie włączyć zewnętrznego BLAS stosowania w pancernik, należy zapoznać się z tym plikiem konfiguracyjnym anyways ...

Zrobiłem krótkie porównanie między Armadillo/MKL_BLAS i Matlab na moim Core Intel -i7 stacja robocza. Dla ex-C++ użyłem -O3, MKL BLAS i zdefiniowałem ARMA_NO_DEBUG. Mnożyłem 1000 razy 1000 losowych macierzy 100 razy i uśredniałem czasy mnożenia. Implementacja C++ była około 1,5 razy szybsza niż w przypadku programu Matlab.

Mam nadzieję, że to pomoże