Funkcja sumowania/skanowania prefiksu o wysokiej wydajności w CUDA, szukanie ciągu, zmiana biblioteki cuDPP

Question

Szukam wysokiej wydajności sumy multiscan/multi prefix-sum (wiele wierszy w jednym wykonaniu jądra) dla mojego projektu w CUDA.

Próbowałem tej z biblioteki Thrust, ale jest zbyt powolny. Również zawiesza się po kompilacji flagami debugowania nvcc (-g-G).

Po moim niepowodzeniu z Thrust skupiłem się na bibliotece cuDPP, która kiedyś była częścią zestawu narzędzi CUDA. Wydajność cuDPP jest naprawdę dobra, ale biblioteka nie jest aktualna z najnowszą cuda 5.5 i są pewne globalne problemy z naruszeniem pamięci w funkcji cudppMultiScan() podczas debugowania za pomocą modułu sprawdzania pamięci. (cuda 5.5, nsight 3.1, visual studio 2010, gtx 260 cc 1.3)

Czy ktoś ma pojęcie, czego używać zamiast tych dwóch bibliotek?

R.

Answer 1

tych bibliotek, szczególnie nacisk, starają się być jak rodzajowy, jak to możliwe i często wymaga optymalizacji specjalizacji: Na przykład specjalizacji algorytmu mogą korzystać z pamięci współdzielonej podstawowych typów (jak int lub float), ale wersja ogólna nie może. Zdarza się, że w danej sytuacji brakuje specjalizacji!

Warto używać tych dobrze przetestowanych bibliotek generycznych w jak największym stopniu, ale czasami, w przypadku niektórych sekcji o krytycznym znaczeniu wydajnościowym, można rozważyć własną implementację.

W twojej sytuacji potrzebujesz wielu skanów równolegle dla różnych wierszy. Dobra implementacja nie uruchamiałaby skanowania osobno dla różnych wierszy: miałoby to samo wywołanie jądra uruchomione jednocześnie dla wszystkich elementów wszystkich wierszy. W zależności od indeksu wątek może wiedzieć, który wiersz przetwarza i zignoruje wszystkie dane z wiersza.

Taka specjalizacja wymaga funktora, który zwraca wartość pochłaniającą, która uniemożliwia mieszanie wierszy. Jednak twoja własna ostrożna implementacja prawdopodobnie byłaby szybsza.

Answer 2

Aby napisać własny skanowanie prefiksu, można odwołać się do

1. przykładzie skanowania CUDA SDK;
2. Rozdział 13 N. Wilt, "Podręcznik CUDA";
3. Rozdział 6 programu Cook, "Programowanie CUDA, przewodnik programisty do obliczeń równoległych z procesorami graficznymi";
4. .

Aby zrobić wielu prefix-sumę można uruchomić wiele razy tego samego jądra (jak sugeruje a.lasram) lub starać się osiągnąć cuncurrency strumieniami CUDA, chociaż ja nie wiem będzie to działać skutecznie na karcie .