floating-point

8Ciepło

4Odpowiedz

Dlaczego Math.sqrt (i * i) .floor == i?

Zastanawiam się, czy to prawda: Kiedy biorę pierwiastek kwadratowy z kwadratów liczb całkowitych, jak w f = Math.sqrt(123*123) otrzymam liczbę zmiennoprzecinkową bardzo blisko 123. Ze względu na dok

ruby floating-point precision 2010-01-13

---

5Ciepło

2Odpowiedz

Arbitralna precyzja Liczba zmiennoprzecinkowa na JavaScript

Mam kilka danych wejściowych w mojej witrynie reprezentujących liczby zmiennoprzecinkowe z maksymalnie dziesiętnymi cyframi dokładności (w systemie dziesiętnym). W pewnym momencie, w kodzie walidacyjn

gwt floating-point javascript 2010-01-21

---

7Ciepło

3Odpowiedz

Jaki jest dobry sposób wyświetlania liczby zmiennoprzecinkowej za pośrednictwem SNMP?

Kodowanie agenta SNMP. Chcę wysłać wartości, które mają przecinek dziesiętny do Menedżera SNMP. mam kilka opcji: obciąć liczbę. Pomnóż przez stałą. Zapytaj Stackoverflow. Jeśli skracam numer, utracę w

floating-point snmp 2010-01-26

---

6Ciepło

3Odpowiedz

Wyjątek arytmetyczny wyrzucony w Javie

W języku Java (liczba/0) generuje wyjątek arytmetyczny, gdy (liczba/0.0) = nieskończoność. Dlaczego tak się dzieje?

java math floating-point 2010-01-27

---

8Ciepło

3Odpowiedz

Jakie są inne wartości NaN?

documentation for java.lang.Double.NaN mówi, że jest Stała trzyma Not-a-Number (NaN) wartość typu double. Jest to odpowiednik wartości zwróconej przez Double.longBitsToDouble(0x7ff8000000000000L). Wyd

java floating-point ieee-754 nan 2010-01-28

---

9Ciepło

5Odpowiedz

Jak przekonwertować ciągi na pływaki z doskonałą dokładnością?

Próbuję napisać funkcję w języku programowania D, aby zastąpić połączenia do sekwencji C. (Uzasadnienie: Aby korzystać strtold od D, trzeba konwertować D ciągi do ciągów C, która jest nieefektywna Rów

floating-point d floating-accuracy 2010-02-01

---

12Ciepło

4Odpowiedz

Sprawdź równość w polach MySQL Float

Mam system Joomla i próbuję zmienić wyszukiwanie, aby poprawnie znaleźć wartości zmiennoprzecinkowe w bazie danych. Tak, mam kwerendę, która jest wbudowana w czasie wykonywania, który wygląda mniej wi

mysql floating-point 2010-02-02

---

19Ciepło

5Odpowiedz

Prawidłowy sposób na emulację zmiennoprzecinkowej pojedynczej precyzji w python?

Jaki jest najlepszy sposób na emulację zmiennoprzecinkowej pojedynczej precyzji w python? (Lub inne formaty zmiennoprzecinkowe w tym przypadku?) Po prostu użyj ctypes?

python floating-point 2010-02-09

---

8Ciepło

2Odpowiedz

Jak radzić sobie z dziwnymi zaokrągleniami pływaków w PHP

Jak wszyscy wiemy, arytmetyka zmiennoprzecinkowa nie zawsze jest w pełni dokładna, ale jak sobie radzisz z jej niekonsekwencjami? Jako przykład, w PHP 5.2.9: (to nie zdarza się w 5.3) echo round(14.99

php floating-point rounding 2010-02-12

---

5Ciepło

3Odpowiedz

Konwersja double float bez opierania się na tryb FPU zaokrąglania

Czy ktoś ma pod ręką te fragmenty kodu, aby przekonwertować IEEE 754 double do bezpośrednio niższego (odp. Superior) float, bez zmiany lub zakładając nic na temat aktualnej zaokrąglania FPU za tryb? U

c floating-point bit-manipulation ieee-754 2010-01-06

---