floating-point

7Ciepło

3Odpowiedz

Erlang - ciąg binarny do Integer lub unosić

mam ciągów binarnych w postaci albo: <<"5.7778345">> lub <<"444555">> nie wiem przed strony, czy będzie to pływak lub całkowita . Próbowałem sprawdzić, czy jest to liczba całkowita. Nie działa, po

string erlang floating-point integer 2010-12-01

---

5Ciepło

3Odpowiedz

Dodawanie liczbę całkowitą do pływaka w PHP zaokrągla pływaka do 1 miejsca po przecinku

Na przykład mam ten wiersz kodu: echo 10359023529 + 0.2137582935; Dlaczego ten zwrot: 10359023529,2 zamiast: 10359023529.2137582935

php floating-point rounding 2010-10-19

---

15Ciepło

4Odpowiedz

Integer unosić

ten kod działa: posToXY :: Float -> Float -> Integer posToXY a b = do let y = a/b round y Ale to nie działa: posToXY :: Integer -> Integer -> Integer posToXY a b = do let y = a/b

haskell floating-point integer 2010-10-19

---

5Ciepło

2Odpowiedz

Usunąć znak E z big float number, C#?

Jeśli użyto wielkich liczb zmiennoprzecinkowych, to znaleźć w C# duża liczba float wykazała tak: 2000000 * 2000000 = 4E + 12 Jak mogę pokazać 4E + 12 jak 4.000.000.000.000 nie 4E + 12?

c# floating-point numbers 2010-12-12

---

8Ciepło

3Odpowiedz

Jak zdobyć bity "podwójnego" jako "długiego"

Chciałbym manipulować bitowym reprezentacji liczb zmiennoprzecinkowych w C#. BinaryWriter i BinaryReader zrobić to w ten sposób: public virtual unsafe void Write(double value) { ulong num = *((u

.net floating-point bit-manipulation 2010-12-17

---

20Ciepło

6Odpowiedz

niejawna konwersja float/int

Wykonuję mnożenie i dzielenie float s i int s i zapominam o niejawnych regułach konwersji (a słowa w pytaniu wydają się zbyt niejasne, aby google szybciej niż pytać tutaj). Jeśli mam dwa int s, ale ch

java floating-point math 2010-11-04

---

7Ciepło

1Odpowiedz

drukuj pływa w ada

Chcę wydrukować liczbę zmiennoprzecinkową, używam pakietu FLOAT_IO. Czy istnieje sposób kontrolowania liczby cyfr po kropce i przed nią?

printing floating-point ada 2010-12-27

---

16Ciepło

2Odpowiedz

Zło w pytonie dziesiętnym/zmiennoprzecinkowe

Mam dużą ilość kodu Pythona, który próbuje obsługiwać liczby z dokładnością do czterech dziesiętnych i utknąłem z Pythona 2.4 z wielu powodów. Kod wykonuje bardzo uproszczoną matematykę (jest to kod z

python floating-point decimal python-2.4 2010-11-15

---

5Ciepło

2Odpowiedz

typu „pływak” danych SQL, gdy wyjście jako XML, wywołuje efekt niepożądany pływaka

Można spróbować po prostu: tabela1: ma kolumna1 typu „pływaka” zamiast SELECT column1 from Table1; daje wartości, jak widać w tabeli. Powiedzmy to zwraca 15.1 Jeśli jednak spróbować Select column1 fro

sql-server xml floating-point 2010-11-16

---

24Ciepło

3Odpowiedz

For-loop vs while loop w R

Zauważyłem ciekawą rzecz podczas pracy w R. Kiedy mam prosty program, który oblicza kwadraty od 1 do N zaimplementowane za pomocą pętli for i pętli while, zachowanie nie jest podobnie. (Nie interesuje

r for-loop floating-point while-loop 2010-11-17

---