floating-point

6Ciepło

2Odpowiedz

Java - porównanie zera dodatniego i ujemnego

Dlaczego Java jest niekonsekwentny przy porównywaniu -0,0 i +0,0? Jaka jest standardowa metoda Java do porównywania liczb do konta -0/+ 0? ja spotkałem tę szczególną Bugaboo: public class ZeroCompare

java floating-point comparison-operators 2015-08-14

---

14Ciepło

2Odpowiedz

Dlaczego obciążenie wykładnicze IEEE-754 użyte w tym kodzie C wynosi 126.94269504 zamiast 127?

Następująca funkcja C pochodzi z projektu fastapprox. static inline float fasterlog2 (float x) { union { float f; uint32_t i; } vx = { x }; float y = vx.i; y *= 1.1920928955078125e-7f

c math floating-point ieee-754 2015-06-26

---

7Ciepło

2Odpowiedz

Najlepszy sposób na uniknięcie powielania kodu definiującego operatory porównania `<, <=, >,> =, ==,! =`, Ale biorąc pod uwagę NaNs?

I matematyka, x <= y jest odpowiednikiem !(x > y). Dotyczy to arytmetyki zmiennoprzecinkowej, w większości przypadków, ale nie zawsze. Gdy x lub y jest NaN, x <= y jest nie równoważne !(x > y), poniew

c++ floating-point operator-overloading comparison-operators 2015-08-16

---

11Ciepło

3Odpowiedz

Generowanie liczb losowych w określonym zakresie - różne przypadki (int, float, inclusive, exclusive)

z funkcją Math.random(), która zwraca liczbę między [0,1) a minmax wartości, aby określić zakres, w jaki sposób możemy generować liczby dla następujących przypadkach: Case chcemy całkowitą: A: (min,ma

random floating-point numbers integer range 2015-10-16

---

8Ciepło

3Odpowiedz

Oszukiwanie numpy/Python do reprezentującą bardzo dużych i bardzo małych ilościach

muszę obliczyć całkę następującej funkcji w zakresach, które zaczyna się już od -150: import numpy as np from scipy.special import ndtr def my_func(x): return np.exp(x ** 2) * 2 * ndtr(x * np.

python numpy floating-point numbers scipy 2015-08-31

---

5Ciepło

1Odpowiedz

Architektura Intel i zgodność z IEEE 754 (minNum i maxNum)?

Zajrzałem do podręcznika programisty x64 i wygląda na to, że wbudowane instrukcje {MIN | MAX} {S | P} {S | D} nie implementują funkcji o nazwach minNum i maxNum w standardzie IEEE 754, mimo że Intel t

assembly floating-point x86-64 ieee-754 2015-09-01

---

14Ciepło

3Odpowiedz

Precision różnica przy drukowaniu Python i C++ podwaja

Jestem obecnie zachwycając się nad tym: C++ 11 #include <iostream> #include <iomanip> #include <limits> int main() { double d = 1.305195828773568; std::cout << std::setprecision(std::nu

python c++ floating-point double 2015-09-03

---

5Ciepło

1Odpowiedz

Numerycznie stabilna ocena sqrt (x + a) - sqrt (x)

Czy istnieje elegancki sposób numerycznego stabilnego oceniania następującego wyrażenia dla pełnego zakresu parametrów x, a> = 0? f(x,a) = sqrt(x+a) - sqrt(x) jest również tam dowolny język programo

math floating-point numeric 2015-09-07

---

7Ciepło

1Odpowiedz

Co jest tak trudnego w odniesieniu do `uint64_t`? (Konwersja złożenia z `float`)

Jestem w sytuacji, w której muszę obliczyć coś w rodzaju size_t s=(size_t)floorf(f);. Oznacza to, że argument jest zmiennoprzecinkowy, ale ma on wartość całkowitą (zakładamy, że floorf(f) jest wystarc

assembly floating-point 2015-09-21

---

5Ciepło

1Odpowiedz

Dlaczego dwie zmienne pływak z wartościami PHP_INT_MAX są takie same, chyba że jeden z nich dodaje się wartość większą niż 1025

<?php $x=PHP_INT_MAX; echo ((float)($x+1026)==(float)($x))?'EQUAL':'Not Equal'; wiem zmiennoprzecinkowych arytmetyka nie jest dokładna i $ x i $ x + 1 są tak blisko siebie, że są one zaokrąglane d

php floating-point floating-accuracy floating-point-precision 2015-08-02

---