floating-point

7Ciepło

8Odpowiedz

Numer zmiennoprzecinkowy w formacie

Chcę użyć funkcji number_format w PHP. Na przykład: $number = 234.51; echo number_format($number,2); Działa to w przypadku liczb zmiennoprzecinkowych, ale chcę używać go dla różnych liczb. Jeśli li

php floating-point number-formatting 2009-11-14

---

9Ciepło

1Odpowiedz

SSE powrót rejestr z SSE niepełnosprawnych

Jestem w następującej sytuacji: piszę kod jądra, który nie pozwala instrukcje SSE muszę zrobić arytmetyki zmiennoprzecinkowej I „m kompilowania dla platformy x86_64 Oto przykładowy kod, który ilustruj

c gcc floating-point sse 2009-10-12

---

27Ciepło

2Odpowiedz

Haskell: Siła płynie mieć dwie dziesiętne

Korzystanie następujący fragment kodu: (fromIntegral 100)/10.00 Korzystanie z Haskell '98 standardowego preludium, jak mogę reprezentować wynik z dwóch miejsc po przecinku? Dzięki.

haskell floating-point precision 2009-10-13

---

13Ciepło

5Odpowiedz

Jak ustawić precyzję zmiennoprzecinkową w Perlu?

Czy istnieje sposób ustawienia dokładności zmiennoprzecinkowej skryptu Perla (na 3 cyfry), bez konieczności zmiany jej dla każdej zmiennej? Coś podobnego do TCL: global tcl_precision set tcl_precisio

perl floating-point floating-accuracy 2009-12-03

---

27Ciepło

6Odpowiedz

Konwertuj hex na float

Jak skonwertować następujący ciąg szesnastkowy na float (pojedyncza precyzja 32-bitowa) w Pythonie? "41973333" -> 1.88999996185302734375E1 "41995C29" -> 1.91700000762939453125E1 "470FC614" -> 3.68

python binary floating-point hex decimal 2009-10-20

---

13Ciepło

7Odpowiedz

Obliczenia pływaka php 2 kropki dziesiętne

Znów mamy inny problem z obliczaniem matematycznym. $a = 34.56 $b = 34.55 $a zrobić kilka obliczeń, aby uzyskać tę postać $b robi zaokrąglania najbliższy 0,05 dostać liczba ta co się stało jest $c

php floating-point decimal rounding 2009-10-22

---

34Ciepło

9Odpowiedz

Najszybszy sposób na wyzerowanie niskich wartości w tablicy?

Więc powiedzmy, że mam 100 000 tablic zmiennopozycyjnych zawierających po 100 elementów. Potrzebuję najwyższą liczbę X wartości, ale tylko jeśli są one większe niż Y. Każdy element nie pasujący do teg

python arrays floating-point max min 2009-10-26

---

5Ciepło

3Odpowiedz

Python klasy z całkowitej emulacji

Given jest następujący przykład: class Foo(object): def __init__(self, value=0): self.value=value def __int__(self): return self.value chcę mieć klasę Foo, który działa jako l

python floating-point integer emulation 2009-10-28

---

20Ciepło

5Odpowiedz

Co to jest szeroki zakres funkcji float i podwójnych w języku Java?

Co to jest szeroki zakres funkcji float i podwójnych w języku Java? Dlaczego nie zaleca się używania funkcji "float" lub "double" w sytuacjach, gdy dokładność jest krytyczna?

java types floating-point double range 2009-10-30

---

5Ciepło

2Odpowiedz

Dlaczego niepoprawne numery zmiennoprzecinkowe Perla nie są poprawne?

Szukałem konwencji zaokrąglania używanej przez wbudowaną funkcję Perla sprintf. Myślałam, że robi normalne zaokrąglenie (np ROUND_HALF_UP jak w Java's rounding mode convention), ale kopanie dodatkowo

perl floating-point printf 2009-10-30

---