floating-point

5Ciepło

1Odpowiedz

Korzystanie operator moduł z pływaków

Ktoś zadał to pytanie w konkursie programowania: - -1% -1 1000000009 lub 1000000008 Chcę wiedzieć, czy jest to w ogóle możliwe? Próbowałem w moim systemie, otrzymałem -1 za każdym razem. Również musia

c++ floating-point 2014-06-08

---

10Ciepło

1Odpowiedz

Jaki algorytm numeryczny jest uproszczony, definiując sqrt (-0.0) jako -0.0?

Standard IEEE 754 definiuje pierwiastek kwadratowy z ujemnego zera jako zero ujemne. Wybór ten jest łatwy do zracjonalizowania, ale inne opcje, takie jak definiowanie sqrt(-0.0) jako NaN, również mogą

floating-point ieee-754 2013-10-07

---

13Ciepło

1Odpowiedz

Numpy float64 vs Python float

Zajmuję się problemami zmiennoprzecinkowymi w funkcji Pandas read_csv. W moim dochodzeniu, znalazłem to: In [15]: a = 5.9975 In [16]: a Out[16]: 5.9975 In [17]: np.float64(a) Out[17]: 5.99749999

python numpy floating-point 2014-11-24

---

5Ciepło

1Odpowiedz

W jaki sposób in statyczna inicjalizacja statyczna floata różni się od int w C++?

Mam klasy z static const członków, że jestem inicjowanie wewnątrz deklaracji klasy: #include <iostream> class Foo { public: static const int i = 9; static const float f = 2.9999;

c++ c++11 floating-point 2014-10-13

---

9Ciepło

1Odpowiedz

Nie można znaleźć przeciążenia dla "*", który akceptuje podany argument

Przekonwertowałem String na Int przy użyciu toInt(). Następnie próbowałem pomnożenie jej przez 0,01, ale pojawia się błąd, który mówi Could not find an overload for '*' that accepts the supplied argum

floating-point integer double swift multiplication 2014-06-05

---

5Ciepło

3Odpowiedz

Dlaczego -0,0 nie jest takie samo jak 0.0?

mogę być czegoś brakuje podstawowych, ale za to interpretera sesji : >>> -0.0 is 0.0 False >>> 0.0 is 0.0 True >>> -0.0 # The sign is even retained in the output. Why? -0.0 >>> można by pomyśl

python math floating-point 2014-11-05

---

5Ciepło

4Odpowiedz

Jak uzyskać sumę tablicę ciągów w ruby ​​

Mam tablicę liczb dziesiętnych jako ciągi, potrzebuję uzyskać sumę tablicy, Próbowałem iteracji nad tablicą i zmieniając każdą liczbę na float, ale to po prostu zwraca liczbę całkowitą za każdym razem

ruby arrays string floating-point sum 2014-06-10

---

6Ciepło

2Odpowiedz

Jak niewiarygodne są wartości zmiennoprzecinkowe, operatory i funkcje?

Nie chcę wprowadzać zmiennoprzecinkowego, gdy niedokładna wartość byłaby destrukcyjna, więc mam kilka pytań dotyczących tego, kiedy faktycznie można z nich bezpiecznie korzystać. Czy są one dokładne d

c floating-point 2014-09-27

---

6Ciepło

2Odpowiedz

C++ podwójnie długo długo

jeśli napisać kod w C++: long long d = 999999998.9999999994; cout<<d; dostaję wyjście: 999999999 (zaokrąglając w górę) Ale wyjście z tego kodu: long long d = 999999998.9999994994; cout<<d; jest

c++ floating-point double floating-point-conversion 2014-10-04

---

6Ciepło

1Odpowiedz

Dlaczego Swift używa podstawy 2 dla wykładnika wartości szesnastkowych zmiennoprzecinkowych?

Według SWIFT języka programowania: Przykładowo 0xFp2 stanowi 15 ⨉ 2^2, w którym ocenia się 60 Podobnie 0xFp2 oznacza 15 ⨉ 2^(- 2), który ocenia na 3,75. Dlaczego 2 służy jako podstawa dla wykładnika z

floating-point swift 2014-06-29

---