floating-point-conversion

18Ciepło

2Odpowiedz

printf Format pływak z wyściółką

Poniższy kod testowy wywołuje niepożądane wyjście, chociaż użyłem szerokość parametr: int main(int , char* []) { float test = 1234.5f; float test2 = 14.5f; printf("ABC %5.1f DEF\n", t

c floating-point floating-point-conversion 2013-03-07

---

9Ciepło

4Odpowiedz

Liczba cyfr znaczących dla typu zmiennoprzecinkowego

Opis typu float w C wspomina, że ​​liczba cyfr znaczących to 6. Jednak float f = 12345.6; a następnie drukować je za pomocą printf() nie drukuje 12345.6, drukuje 12345.599609. Co oznacza więc "6 cyf

c floating-point floating-point-conversion 2012-10-10

---

5Ciepło

2Odpowiedz

Czy spławik może być potknięty przez podwójne bez utraty precyzji?

Jeśli mam C# float, czy mogę przekonwertować go na double bez utraty precyzji? Jeśli ten double zostanie przekonwertowany z powrotem na float, czy będzie miał dokładnie tę samą wartość? Test

c# .net floating-point precision floating-point-conversion 2016-11-11

---

6Ciepło

3Odpowiedz

W Lua, co to jest #INF i #IND?

Jestem całkiem nowy w Lua. Podczas testów odkryłem #INF/#IND. Jednak nie mogę znaleźć dobrego odniesienia, które to wyjaśnia. Co to są #INF, #IND i podobne (takie jak negatywy) i jak je generujesz i w

c floating-point lua floating-point-conversion 2013-10-01

---

5Ciepło

3Odpowiedz

pyton przekonwertować listę pływaka ciąg

Mam listę pływaków w Pythonie i kiedy przekonwertować go na sznurku, mam follwoing [1883.95, 1878.3299999999999, 1869.4300000000001, 1863.4000000000001] te pływaki mają 2 cyfry po przecinku, kiedy s

python list formatting floating-point-precision floating-point-conversion 2014-05-01

---

6Ciepło

2Odpowiedz

C++ podwójnie długo długo

jeśli napisać kod w C++: long long d = 999999998.9999999994; cout<<d; dostaję wyjście: 999999999 (zaokrąglając w górę) Ale wyjście z tego kodu: long long d = 999999998.9999994994; cout<<d; jest

c++ floating-point double floating-point-conversion 2014-10-04

---