ieee-754

14Ciepło

2Odpowiedz

Dlaczego obciążenie wykładnicze IEEE-754 użyte w tym kodzie C wynosi 126.94269504 zamiast 127?

Następująca funkcja C pochodzi z projektu fastapprox. static inline float fasterlog2 (float x) { union { float f; uint32_t i; } vx = { x }; float y = vx.i; y *= 1.1920928955078125e-7f

c math floating-point ieee-754 2015-06-26

---

6Ciepło

1Odpowiedz

Pytania dotyczące operacji na NaN

Moja SSE-FPU generuje następujące Nans: Kiedy zrobić każdy podstawowy dwusystemowy jak ADDSD, SUBSD, MULSD lub DIVSD i jednym z obu operandów jest NaN, wynik ma znak operandu NaN, a niższe 51 bitów ma

floating-point x86 sse nan ieee-754 2016-06-18

---

5Ciepło

1Odpowiedz

Architektura Intel i zgodność z IEEE 754 (minNum i maxNum)?

Zajrzałem do podręcznika programisty x64 i wygląda na to, że wbudowane instrukcje {MIN | MAX} {S | P} {S | D} nie implementują funkcji o nazwach minNum i maxNum w standardzie IEEE 754, mimo że Intel t

assembly floating-point x86-64 ieee-754 2015-09-01

---

5Ciepło

2Odpowiedz

Czy istnieje jakiś sposób, aby zobaczyć numer w to 64-bitowy pływaka IEEE 754 reprezentacja

Javascript sklepów wszystkich numerów w formacie podwójnej precyzji 64-bit IEEE 754 wartości według spec: typ numeru ma dokładnie 18437736874454810627 (to znaczy, 2 -2 +3) wartości, reprezentujący pod

javascript binary ieee-754 2016-05-07

---

8Ciepło

3Odpowiedz

Dlaczego liczby o wielu znaczących cyfrach są obsługiwane inaczej w C# i JavaScript?

Jeśli liczba i numer JavaScript w języku JavaScript są takie same (IEEE 754), dlaczego numery z wieloma znaczącymi cyframi są traktowane inaczej? var x = (long)1234123412341234123.0; // 12341234123412

javascript c# ieee-754 2015-05-27

---

13Ciepło

1Odpowiedz

Dlaczego moja implementacja konwersji łuku SVG nie przechodzi testu QuickCheck?

Zaimplementowałem W3s recommended algorithm for converting SVG-path arcs from endpoint-arcs to center-arcs and back w Haskell. type EndpointArc = (Double, Double, Double, Double , Bool, Bool,

haskell svg ieee-754 quickcheck 2014-11-16

---

18Ciepło

2Odpowiedz

Przypadki gdzie float == i! = Nie są bezpośrednimi przeciwieństwami

W https://github.com/numpy/numpy/issues/6428 główną przyczyną błędu wydaje się być, że w simd.inc.src:543, kompilator optymalizuje !(tmp == 0.) do tmp != 0.. A comment mówi, że są to "nie całkiem to s

c ieee-754 comparison-operators 2016-07-08

---

8Ciepło

1Odpowiedz

Java/C: Zła implementacja OpenJDK native tanh()?

Przeszukałem niektóre z natywnych kodu źródłowego funkcji języka Java Math. Zwłaszcza tanh(), ponieważ byłem ciekawy, jak go zaimplementowali. Jednak what I found zaskoczył mnie: double tanh(double x)

java c math floating-point ieee-754 2017-01-24

---

7Ciepło

1Odpowiedz

Konwertuj IEEE 754 na dziesiętny zmiennoprzecinkowy

Mam to, co myślę, że jest to IEEE754 z pojedynczą lub podwójną precyzją (nie jestem pewien) i chciałbym przekonwertować go na dziesiętny w PHP. Biorąc pod uwagę 4 wartości szesnastkowe (które mogą być

php hex decimal ieee-754 2015-12-28

---

5Ciepło

2Odpowiedz

dlaczego można drukować podwójną liczbę mniejszą niż DBL_MIN?

Przypisuję 0.4543543234343654632452452525254e-323 do zmiennej doubledouble i wydrukuję ją, chociaż jest ona mniejsza niż DBL_MIN, nadal można ją przypisać i wydrukować. DBL_MAX: 1.79769e+308 FLT_MAX:

c++ double range ieee-754 2016-05-28

---