Mam problem z metodą SSE, którą piszę, która wykonuje przetwarzanie dźwięku. I wdrożyliśmy SSE losową funkcję opartą na papierze Intela tutaj:Wewnętrzne elementy SSE powodują, że normalna operacja pływająca zwraca -1. # INV
Mam też sposób, który przeprowadza konwersje float na S16 użyciu SSE też, konwersja odbywa się po prostu w następujący sposób:
unsigned int Float_S16LE(float *data, const unsigned int samples, uint8_t *dest)
{
int16_t *dst = (int16_t*)dest;
const __m128 mul = _mm_set_ps1((float)INT16_MAX);
__m128 rand;
const uint32_t even = count & ~0x3;
for(uint32_t i = 0; i < even; i += 4, data += 4, dst += 4)
{
/* random round to dither */
FloatRand4(-0.5f, 0.5f, NULL, &rand);
__m128 rmul = _mm_add_ps(mul, rand);
__m128 in = _mm_mul_ps(_mm_load_ps(data),rmul);
__m64 con = _mm_cvtps_pi16(in);
memcpy(dst, &con, sizeof(int16_t) * 4);
}
}
FloatRand4 jest zdefiniowany w następujący sposób:
static inline void FloatRand4(const float min, const float max, float result[4], __m128 *sseresult = NULL)
{
const float delta = (max - min)/2.0f;
const float factor = delta/(float)INT32_MAX;
...
}
Jeśli sseresult != NULL
__m128
wynik jest zwracany, a result
nie jest używany. To działa idealnie na pierwszej pętli, ale w następnej pętli delta
staje się -1.#INF
zamiast 1.0
. Jeśli skomentuję linię __m64 con = _mm_cvtps_pi16(in);
, problem zniknie.
Myślę, że FPU wchodzi w nieznany stan czy coś.
_mm_cvtps_pi16 to zły pomysł. Użyj kombinacji _mm_cvtps_epi32, _mm_packs_epi32 i _mm_store_si128/_mm_storeu_si128, aby przekonwertować 8 elementów pływających na 8 int16_t i Twój problem zniknął! –