ieee-754

5Ciepło

1Odpowiedz

Czy istnieje neutralny element IEEE 754 w odniesieniu do Dodatkowo

Rozważmy następujący kod snippet double id = ?; double res; long unsigned *res_u = (long unsigned*)&res; long unsigned i; for (i = 0; i < (long unsigned)-1; i++){ double *d1 = (double*)&i;

c floating-point double ieee-754 low-level 2013-04-29

---

50Ciepło

1Odpowiedz

Jaka jest różnica między cichym NaN i sygnalizacyjnym NaN?

Przeczytałem o zmiennoprzecinkowej i rozumiem, że NaN może wynikać z operacji. ale nie mogę zrozumieć, jakie są dokładnie te pojęcia. Jaka jest różnica? Który z nich można wyprodukować podczas program

floating-point nan ieee-754 2013-08-08

---

7Ciepło

2Odpowiedz

Dlaczego jest realmin> eps (0)?

realmin "zwraca najmniejszą dodatnią znormalizowaną liczbę zmiennoprzecinkową w podwójnej precyzji IEEE". eps(X) "jest dodatnią odległością od ABS (X) do następnej większej liczby zmiennoprzecinkowej

matlab ieee-754 2013-04-04

---

9Ciepło

3Odpowiedz

Jak uzyskać podział Pythona o -0,0 i 0,0, aby uzyskać odpowiednio wartości "Inf i Inf"?

Mam sytuację, w której uzasadnione jest podzielenie przez 0,0 lub przez -0,0, gdzie oczekiwałbym odpowiednio + Inf i -Inf jako wyników. Wygląda na to, że Python lubi rzucić w obu przypadkach jeden rzu

python python-2.7 ieee-754 divide-by-zero 2013-04-25

---

8Ciepło

2Odpowiedz

Obliczanie poprawnie zaokrąglonego/prawie poprawnie zaokrąglonego zmiennopozycyjnego sześciennego korzenia sześciennego

Załóżmy, że są dostępne poprawnie zaokrąglone funkcje biblioteki standardowej, takie jak dostępne w CRlibm. Jak zatem obliczyć poprawnie zaokrąglony sześcienny rdzeń wejściowy o podwójnej precyzji? To

algorithm floating-point ieee-754 2013-08-05

---

5Ciepło

1Odpowiedz

Maksymalna liczba cyfr dziesiętnych, które mogą wpływać na podwójne

Rozważ dziesiętne reprezentacje formularza d1.d2d3d4d5 ... dnExxx gdzie xxx jest arbitralnym wykładnikiem, a oba d1 i dn są niezerowe. jest maksymalna n znane, że istnieje reprezentację dziesiętną d1.

floating-point ieee-754 2013-06-21

---

5Ciepło

1Odpowiedz

Dokładność zmiennoprzecinkowa ponownie

Wczoraj zapytałem o question o to, dlaczego traciłem dokładność w arytmetyce zmiennoprzecinkowej. Otrzymałem odpowiedź na pytanie, jak to było z powodu wyników pośrednich przechowywanych w rejestrach

c floating-point floating-accuracy ieee-754 floating-point-precision 2013-03-16

---

6Ciepło

1Odpowiedz

Zaokrąglanie liczb zmiennoprzecinkowych po dodaniu (gwardia, lepkie i okrągłe bity)

Nie znalazłem jeszcze dobrego wyjaśnienia tego w Internecie, więc mam nadzieję, że ktoś tutaj może mi to wyjaśnić. Chcę dodać dwie liczby binarne ręcznie: 1,001 * 2 1.010,0000,0000,0000,0000,0011 * 2

floating-point ieee-754 2013-10-02

---

10Ciepło

1Odpowiedz

Jaki algorytm numeryczny jest uproszczony, definiując sqrt (-0.0) jako -0.0?

Standard IEEE 754 definiuje pierwiastek kwadratowy z ujemnego zera jako zero ujemne. Wybór ten jest łatwy do zracjonalizowania, ale inne opcje, takie jak definiowanie sqrt(-0.0) jako NaN, również mogą

floating-point ieee-754 2013-10-07

---

5Ciepło

1Odpowiedz

Arytmetyka dziesiętna w C lub C++?

Norma IEEE-754 określa arytmetykę dziesiętną w celu uniknięcia błędów zaokrąglania przy użyciu liczb dziesiętnych w postaci liczby dziesiętnej (patrz na przykład decimal64 on wikipedia). Czy istnieje

c++ c floating-point rounding ieee-754 2013-07-06

---