floating-point

5Ciepło

2Odpowiedz

Dlaczego wartość float 0 (zero) PHP jest wyświetlana ze znakiem?

W PHP, pozwala utworzyć zmienną i ustaw wartość na 0: $x = 0; echo $x; byłoby wyświetlić 0. Gdyby jeden pomnożyć przez -1: $x = -1 * $x; echo $x; nadal widzimy 0. Ale jeśli $x jest pływak: $x =

5Ciepło

1Odpowiedz

Delphi - porównanie dwóch zmiennych liczb rzeczywistych

Mam problem z porównaniem dwóch zmiennych typu "Real". Jedna jest wynikiem operacji matematycznej, przechowywana w zbiorze danych, druga jest wartością pola edycyjnego w postaci, konwertowanego przez

5Ciepło

2Odpowiedz

Jak dekompilować obliczenia zespołu x87?

Program jestem cofania robi proste mnożenie między liczbą typu float i 8 bajtów całkowita: section .data va: dt 1.4426950408889634074 vb: dd 0x42424242 dd 0x41414141 section .text global ma

5Ciepło

2Odpowiedz

zer wiodących dla pływaka w Swift

Oto niektóre wartość pływaka: 5.3 23.67 0.23 i chcę im być 05.30 23.67 00.23 Korzystanie String(format: "%.2f", floatVar) można zrobić 2 cyfry po przecinku, ale nie można dodać zera przed to.

8Ciepło

2Odpowiedz

Czy standard C++ dopuszcza takie zachowanie zmiennoprzecinkowe?

W poniższym kodzie: #include <cstdint> #include <cinttypes> #include <cstdio> using namespace std; int main() { double xd = 1.18; int64_t xi = 1000000000; int64_t res1 = (double)

11Ciepło

1Odpowiedz

Trudne różnice w generowanym zespoleniu porównań zmiennoprzecinkowych < and > =

Eksperymentuję z wygenerowanym zespołem i odkryłem interesującą rzecz. Istnieją dwie funkcje, które wykonują identyczne obliczenia. Jedyna różnica między nimi to sposób, w jaki wyniki są sumowane. #in

5Ciepło

1Odpowiedz

Odliczanie sekund chrono

W przykładzie na http://en.cppreference.com/w/cpp/chrono wartość sekund jest uzyskiwana w double. Takie zachowanie chcę. Wydaje się jednak, że opiera się to na domyślnym założeniu, że odjęcie punktu w

14Ciepło

1Odpowiedz

Czy kompilator zoptymalizuje podział na mnożenie?

W zależności od tego pytania Floating point division vs floating point multiplication. Podział jest wolniejszy niż mnożenie z kilku powodów. Czy kompilator zwykle zastępuje dzielenie przez mnożenie, j

5Ciepło

3Odpowiedz

Jak działa zaokrąglanie w Pythonie?

Jestem nieco zdezorientowany, jak działa zaokrąglanie w Pythonie. Czy ktoś mógłby wyjaśnić, dlaczego Python zachowuje się w ten sposób? Przykład: >>> round(0.05,1) # this makes sense 0.1 >>> round(0

6Ciepło

2Odpowiedz

Czy "minimalna do maksymalnej" jednolita dystrybucja rzeczywista wytworzy Inf, -Inf lub NaN?

Gdybym produkować zmiennoprzecinkowych w następujący sposób: template <typename T> T RandomFromRange(T low, T high){ std::random_device random_device; std::mt19937 engine{random_device()};