floating-point-precision

16Ciepło

3Odpowiedz

Prawidłowe użycie std :: cout.precision() - nie drukuje zera kończące

widzę wiele pytań dotyczących liczby precyzyjnej dla liczb zmiennoprzecinkowych, ale konkretnie chcę wiedzieć, dlaczego ten kod #include <iostream> #include <stdlib.h> int main() { int a = 5;

c++ floating-point-precision 2013-06-27

---

5Ciepło

2Odpowiedz

Dlaczego funkcja! Int() nie działa poprawnie?

Dlaczego ta asercja nie działa? import std.conv; void main() { auto y = 0.6, delta=0.1; auto r = to!int(y/delta); assert(r == 6); } Wartość r powinna wynosić 6, a jednak 5, dlacze

d floating-accuracy floating-point-precision 2014-12-26

---

5Ciepło

3Odpowiedz

pyton przekonwertować listę pływaka ciąg

Mam listę pływaków w Pythonie i kiedy przekonwertować go na sznurku, mam follwoing [1883.95, 1878.3299999999999, 1869.4300000000001, 1863.4000000000001] te pływaki mają 2 cyfry po przecinku, kiedy s

python list formatting floating-point-precision floating-point-conversion 2014-05-01

---

14Ciepło

1Odpowiedz

Czy w GHC/Haskell można zastosować arytmetykę zmiennoprzecinkową z dużą precyzją (80 bitów)?

Standardowa Haskell'a Double wykorzystuje the standard double-precision arithmetic: data Double podwójnej precyzji liczb zmiennoprzecinkowych. Pożądane jest, aby ten typ był co najmniej równy w zakres

haskell floating-point ghc floating-point-precision extended-precision 2013-05-28

---

5Ciepło

1Odpowiedz

Dlaczego dwie zmienne pływak z wartościami PHP_INT_MAX są takie same, chyba że jeden z nich dodaje się wartość większą niż 1025

<?php $x=PHP_INT_MAX; echo ((float)($x+1026)==(float)($x))?'EQUAL':'Not Equal'; wiem zmiennoprzecinkowych arytmetyka nie jest dokładna i $ x i $ x + 1 są tak blisko siebie, że są one zaokrąglane d

php floating-point floating-accuracy floating-point-precision 2015-08-02

---

5Ciepło

1Odpowiedz

Czy plik wykonywalny w systemie Linux może wpływać na precyzję zmiennoprzecinkową w połączonej bibliotece dynamicznej?

Występuje problem z precyzją zmiennoprzecinkową w bibliotece dynamicznej. set-up jest w następujący sposób: Mamy dynamiczną bibliotekę, która wykonuje obliczeń X na dużej tablicy liczb zmiennoprzecink

c++ linux gcc floating-accuracy floating-point-precision 2015-06-16

---

10Ciepło

1Odpowiedz

Obsługa liczb dziesiętnych w mysqli

Muszę umieścić cenę niektórych przedmiotów w tabeli mysql. Podczas tworzenia tabeli używam DECIMAL(10,2), ponieważ nie potrzebuję więcej niż 2 cyfry po przecinku (na przykład: 123,45 będzie akceptowan

php floating-point mysqli floating-accuracy floating-point-precision 2013-06-05

---

7Ciepło

3Odpowiedz

W jaki sposób kompilatory C i C++ implementują decyzję równości dla liczb zmiennoprzecinkowych?

Na przykład float a = 1.0; float b = 1.2; puts(a == b? "equal": "not equal"); zajmuje kompilatora z nim bitwisely lub za pomocą innych metod? (wiem, że nie jest to dobry wybór, aby zdecydować, ró

c++ c floating-point-precision 2015-05-06

---

5Ciepło

1Odpowiedz

Biorąc pod uwagę liczbę, jak znaleźć najbliższy numer w serii danych zmiennoprzecinkowych

Natknąłem się na to pytanie, szukając pytań do wywiadu z Amazon i chciałem zapytać. Podając liczbę, jak znaleźć najbliższy numer w serii danych zmiennoprzecinkowych? Jeśli wszystko jest liczbą całkowi

algorithm floating-point-precision 2015-05-13

---

7Ciepło

1Odpowiedz

. Format() zwraca wartość ValueError podczas używania {0: g} do usuwania zer końcowych

Próbuję wygenerować ciąg, który zawiera sporadyczne wartości zmiennoprzecinkowe z zerami końcowymi. Jest to MWE łańcucha tekstowego i moja próba usunięcia ich z {0:g}: xn, cod = 'r', 'abc' ccl = [546

python string formatting floating-point-precision 2014-09-10

---