floating-point-precision

16Ciepło

3Odpowiedz

Jak bezpiecznie podłożyć podłogę lub sufit CGFloat do int?

Często potrzebuję do podłogi lub sufitu CGFloat do int, do obliczania indeksu tablicy. Problem na stałe z floorf(theCGFloat) lub ceilf(theCGFloat) polega na tym, że mogą występować problemy z nieścisł

ios math floating-point floating-accuracy floating-point-precision 2012-08-16

---

5Ciepło

2Odpowiedz

SELECT FLOAT z zadaną precyzją

Chcę przechowywać moje wartości jako FLOATS, ale podczas ich pobierania użytkownik może określić (i zmienić w czasie wykonywania) liczbę cyfr, które chce zobaczyć po przecinku dziesiętnym. Czy mogę pr

mysql floating-point-precision 2012-11-29

---

5Ciepło

2Odpowiedz

Jak usunąć macierze z listy, które są duplikatami w błędach zmiennoprzecinkowych?

To pytanie jest podobne do pytań zadawanych w związku z błędem zmiennoprzecinkowym w innych językach (na przykład here), jednak nie znalazłem satysfakcjonującego rozwiązania. Pracuję nad projektem, kt

r matrix floating-point-precision 2013-04-29

---

5Ciepło

3Odpowiedz

float vs double (w Javie)

Czy istnieje przypadek, w którym te dwie metody zwrócą różne wartości przy tych samych danych wejściowych? int compare1(float a, float b) { return Double.compare(a, b); } int compare2(float a

java floating-point-precision 2013-01-21

---

5Ciepło

1Odpowiedz

Dokładność zmiennoprzecinkowa ponownie

Wczoraj zapytałem o question o to, dlaczego traciłem dokładność w arytmetyce zmiennoprzecinkowej. Otrzymałem odpowiedź na pytanie, jak to było z powodu wyników pośrednich przechowywanych w rejestrach

c floating-point floating-accuracy ieee-754 floating-point-precision 2013-03-16

---

5Ciepło

3Odpowiedz

Czy istnieje ryzyko wykorzystania zmiennych zmiennoprzecinkowych jako liczników pętli i ich ułamkowego przyrostu/dekrecji dla warunków innych niż "= "?

Czy możemy bezpiecznie używać pływaków jako liczników pętli i zwiększać/zmniejszać je o ułamkowe wartości w każdej iteracji, tak jak w poniższym programie bez ryzyka? Oczywiście wiem, że używanie zmie

c loops floating-point floating-point-precision loop-counter 2013-05-16

---

6Ciepło

6Odpowiedz

C++ Jak uniknąć zmiennoprzecinkową błąd arytmetyczny

piszę pętlę sumujący z pływakiem, ale nie natknąłem się na arytmetyki zmiennoprzecinkowej problemu przedstawionego w poniższym przykładzie: for(float value = -2.0; value <= 2.0; value += 0.2) std

c++ floating-point floating-point-precision 2013-02-13

---

8Ciepło

1Odpowiedz

Różnica między/fp: strict i/fp: precise?

Kiedy używasz fp: strict, a nie fp: precise? Czy lepiej użyć tego pierwszego, jeśli chcę "dokładniejszych" obliczeń i uniknąć błędów zaokrąglania? Na czym polega heurystyka za pomocą?

c++ visual-c++ floating-point floating-point-precision visual-studio-2010 2012-09-20

---

7Ciepło

1Odpowiedz

Dowolny odpowiednik "rozszerzony" dla C#?

Pracuję nad nową wersją mojego Mandelbrot screensaver i kończy mi się dokładność zmiennoprzecinkowa - proste wartości double nie mają wystarczających liczb znaczących dla moich potrzeb. więcej cyfr zn

c# performance double floating-point-precision 2012-09-23

---

5Ciepło

1Odpowiedz

Do jakiej dokładności perl drukuje liczby zmiennoprzecinkowe?

my $num = log(1_000_000)/log(10); print "num: $num\n"; print "int(num): " . int($num) . "\n"; print "sprintf(num): " . sprintf("%0.16f", $num) . "\n"; produkuje: num: 6 int(num): 5 sprintf(num)

perl floating-point-precision 2012-12-31

---