ieee-754

5Ciepło

4Odpowiedz

Konwertuj z IBM zmiennoprzecinkowy na standard zmiennoprzecinkowy IEEE i Vice Versa-In C#?

Szukałem sposobu na liczbowe numery zmiennoprzecinkowe IEEE do formatu zmiennoprzecinkowego IBM dla starego systemu, którego używamy. Czy istnieje ogólna formuła, której możemy użyć w C# do tego celu.

c# c floating-point ibm ieee-754 2010-12-28

---

8Ciepło

3Odpowiedz

Konwertuj ciąg znaków z reprezentacją heksadecymalną na IEEE-754 w zmiennej numerycznej JavaScript

Załóżmy, że mam numer szesnastkowy "4072508200000000" i chcę, aby liczba zmiennoprzecinkowa, którą reprezentuje (293.03173828125000) w podwójnym formacie IEEE-754, była wstawić do zmiennej JavaScript.

javascript double hex ieee-754 2009-10-20

---

8Ciepło

3Odpowiedz

Jakie są inne wartości NaN?

documentation for java.lang.Double.NaN mówi, że jest Stała trzyma Not-a-Number (NaN) wartość typu double. Jest to odpowiednik wartości zwróconej przez Double.longBitsToDouble(0x7ff8000000000000L). Wyd

java floating-point ieee-754 nan 2010-01-28

---

27Ciepło

3Odpowiedz

W Scala, dlaczego NaN nie jest odbierany przez dopasowywanie wzorców?

Moja metoda jest następująca def myMethod(myDouble: Double): Double = myDouble match { case Double.NaN => ... case _ => ... } IntelliJ debugger jest pokazujący NaN ale to nie jest pod

scala pattern-matching ieee-754 nan 2011-08-02

---

7Ciepło

5Odpowiedz

Jak zmienić dwukrotnie o najmniejszy przyrost

Czy coś jest zepsute, czy nie rozumiem, co się dzieje? static String getRealBinary(double val) { long tmp = Double.doubleToLongBits(val); StringBuilder sb = new StringBuilder(); for (l

java double ieee-754 2010-10-10

---

7Ciepło

2Odpowiedz

80-bitowa liczba zmiennoprzecinkowa i liczby podnormalne

Próbuję przekonwertować liczbę zmiennoprzecinkową o rozszerzonej 80-bitowej precyzji (w buforze) do podwójnej. Bufor zawiera zawartość rejestru x87. This question pomógł mi zacząć, ponieważ nie byłem

c++ floating-point ieee-754 x87 2011-08-06

---

10Ciepło

2Odpowiedz

Jak mogę przekonwertować cztery znaki do 32-bitowego float IEEE-754 w Perlu?

Mam projekt, w którym funkcja otrzymuje cztery znaki 8-bitowe i musi przekonwertować wynikowy 32-bitowy zmiennoprzecinkowy IEEE-754 na zwykły numer Perla. Wygląda na to, że powinien istnieć szybszy sp

perl floating-point ieee-754 2009-04-20

---

6Ciepło

6Odpowiedz

Arytmetyka w rubinach

Dlaczego ten kod 7.30 - 7.20 w rubinach zwraca 0.0999999999999996, a nie 0.10? Ale jeśli napiszę na przykład 7.30 - 7.16, wszystko będzie dobrze, otrzymam 0.14. Na czym polega problem i jak mogę go ro

ruby math floating-point ieee-754 2009-09-20

---

5Ciepło

3Odpowiedz

Konwersja double float bez opierania się na tryb FPU zaokrąglania

Czy ktoś ma pod ręką te fragmenty kodu, aby przekonwertować IEEE 754 double do bezpośrednio niższego (odp. Superior) float, bez zmiany lub zakładając nic na temat aktualnej zaokrąglania FPU za tryb? U

c floating-point bit-manipulation ieee-754 2010-01-06

---