floating-point

9Ciepło

4Odpowiedz

Zapobiegaj zaokrągleniu w String.format ("%. 2f", doubleValue) w Javie

Jak zapobiec String.format("%.2f", doubleValue); zaokrąglania (algorytm zaokrąglania do połowy) zamiast po prostu go obcinać? np. doubleValue = 123.459 po formatowaniu, doubleValue = 123.46 Chcę p

java string floating-point format 2009-08-20

---

5Ciepło

5Odpowiedz

Jak mogę uzyskać/ustawić poszczególne bity w float?

Muszę przyznać, że w całej mojej pracy z Javą, nigdy nie spotkałem się z koniecznością unii Javy (jak związek C, a nie SQL) i nie mogę znaleźć odpowiedzi tutaj na SO. Prawdą jest, że większość mojej p

java floating-point 2009-08-21

---

60Ciepło

3Odpowiedz

Konwertowanie zmiennoprzecinkowej na ciąg bez zaokrąglania go

Tworzę program, który z powodów, które nie wymagają wyjaśnienia, wymaga przekonwertowania elementu pływającego na ciąg znaków, który będzie liczony za pomocą len(). Jednakże, str (float (x)) powoduje,

python string floating-point rounding 2009-08-23

---

14Ciepło

6Odpowiedz

Liczby zmiennoprzecinkowe o stałej szerokości w C/C++

int to zazwyczaj 32 bity, ale w standardzie int nie ma gwarantowanej stałej szerokości. Jeśli więc chcemy 32-bitowego int, dołączamy stdint.h i używamy int32_t. Czy istnieje odpowiednik dla elementów

c++ c floating-point double 2009-08-26

---

25Ciepło

8Odpowiedz

Okrągły rubinem unosić w górę lub w dół do najbliższej 0,05

Dostaję numery jak 2.36363636363636 4.567563 1.234566465448465 10.5857447736 Jak bym się Ruby zaokrąglić te liczby w górę (lub w dół) z dokładnością do 0,05?

ruby floating-point rounding 2009-08-28

---

92Ciepło

5Odpowiedz

Nietypowy szybki odwrócony pierwiastek kwadratowy Johna Carmacka (Quake III)

John Carmack pełni specjalną funkcję w kodzie źródłowym Quake III, który oblicza odwrotność pierwiastka kwadratowego float, 4x szybciej niż zwykły (float)(1.0/sqrt(x)), w tym dziwną stałą 0x5f3759df.

algorithm floating-point square-root 2009-08-28

---

10Ciepło

2Odpowiedz

Dziwne zachowanie python na komputerze z procesorem ARM

Co może być przyczyną tego dziwnego zachowania python? Python 2.6.2 (r262:71600, May 31 2009, 03:55:41) [GCC 3.3.4] on linux2 Type "help", "copyright", "credits" or "license" for more information.

python floating-point arm 2009-09-03

---

6Ciepło

2Odpowiedz

Jak obliczyć dowolną moc/root?

Mam aplikację, która musi podnieść liczbę do ułamkowej mocy. Platformą docelową jest FPGA i mogę uzyskać oszacowanie wielkości FPU, ale potrzebuję algorytmu do podniesienia liczby do ułamkowej mocy ty

algorithm math floating-point exponent 2009-09-03

---

10Ciepło

3Odpowiedz

Konwersja Haskell Float na Int

Nadal jestem nowy i próbuję utworzyć listę do użycia w funkcji i chcę, aby była tak mała, jak to tylko możliwe, czyli logBase xy. ale mam problemy z uzyskaniem logBase do czegoś, czego mogę użyć na te

haskell floating-point int 2009-09-09

---

15Ciepło

3Odpowiedz

Pływające pytonowe podkładki

Chcę podać wartości procentowe, aby zawsze były 3 jednostki przed miejscem dziesiętnym. Z ints mógłbym użyć '% 03d' - czy istnieje odpowiednik dla pływaków? "% .3f" działa po przecinku, ale "% 03f" ni

python floating-point zero pad 2009-09-15

---