floating-point

15Ciepło

2Odpowiedz

Jak sprawdzić, czy liczba zmiennoprzecinkowa jest liczbą całkowitą w haskell?

Jeśli mam liczbę zmiennoprzecinkową w Haskell, to jak przetestować, czy jest to liczba całkowita.

5Ciepło

3Odpowiedz

Konwertuj listę zmiennych do bufora w Pythonie?

Gram w gry z PortAudio i Python. Chcę, aby mój strumień odtwarzał dane dźwiękowe, które są reprezentowane w wartościach Float32. Dlatego używam następującą funkcję: def getData(): data = []

21Ciepło

5Odpowiedz

Jak używać wyrażenia w float?

Wiem, że to bardzo głupie pytanie, ale nie wiem, jak to zrobić w bashu: 20/30 * 100 Powinno być 66.67 ale wyrażenie mówi 0, ponieważ nie obsługuje pływaka. Jakie polecenie w Linuksie może zastąpić w

13Ciepło

9Odpowiedz

Czy warto używać wartości bezwzględnej NaN IEEE754 dla wartości, które nie są ustawione?

Czy warto używać wartości zmiennoprzecinkowej IEEE754 NaN (not-a-number) dla wartości nieokreślonych z powodów innych niŜ matematyczne? W naszym przypadku nie zostały jeszcze ustawione, ponieważ warto

5Ciepło

4Odpowiedz

Drukowanie wartości liczby zmiennoprzecinkowej na 2 miejsca dziesiętne

Mam wartość zmiennoprzecinkową o wartości np. 57,400002. Używam sprintf_s, aby wyświetlić wartość na moim GUI. sprintf_s(xPosition, 19, "%f", xPositionValue); Jak sformatować pływak, aby wyświetlał

8Ciepło

4Odpowiedz

MATLAB - pytanie podłogowe

Jestem początkującym MATLAB. Oto problem: >> a = floor(7/2.5) a = 2.00 >> b = rem(7,2.5) b = 2.00 >> c = floor(b/2) c = 0 c powinno wynosić 1, prawda? Dlaczego to 0 ??

21Ciepło

7Odpowiedz

Wybór pływaka w MySQL

próbuję zrobić SELECT spotkanie na stole w oparciu o identyfikator i cenie, takich jak: SELECT * FROM `table` WHERE `ident`='ident23' AND `price`='101.31'; Powyższe zwraca zero wierszy, natomiast je

6Ciepło

2Odpowiedz

Jak przekonwertować ciąg szesnastkowy na pływający w Javie?

Jak przekonwertować szesnastkowy ciąg do pojedynczej precyzji zmiennoprzecinkowej w Javie? Na przykład sposobu realizacji: pływak F = HexStringToFloat ("BF800000"); // f powinna zawierać -1.0 Pytam bo

9Ciepło

3Odpowiedz

Serwer SQL: obliczanie za pomocą literałów numerycznych

Wykonałem kilka testów z obliczeniami zmiennoprzecinkowymi, aby zminimalizować utratę precyzji. Natknąłem się na fenomen, który chcę tutaj pokazać i mam nadzieję, że otrzymam wyjaśnienie. Kiedy piszę

25Ciepło

6Odpowiedz

Jaka jest względna szybkość dodawania zmiennoprzecinkowego, a nie zmiennoprzecinkowa, mnożenie

Dekadę lub dwa lata temu warto było napisać kod liczbowy, aby uniknąć używania mnożenia i dzielenia, a zamiast tego używać dodawania i odejmowania. Dobrym przykładem jest użycie forward differences do