floating-point

23Ciepło

5Odpowiedz

Operacje testowania jednostek w Visual Studio 2008 Pro

Mam kilka testów jednostkowych C#, które wykonują niektóre operacje float/double i chciałbym je przetestować w jednostce. Assert.AreEqual jest niewystarczający z powodu błędów zaokrąglania. Przenieś k

c# unit-testing .net-3.5 floating-point 2009-05-18

---

5Ciepło

3Odpowiedz

zmiennoprzecinkowej Ograniczenia

Mój kod: a = '2.3' chciałem wyświetlić a jako wartości zmiennoprzecinkowej. Od a jest ciągiem znaków, próbowałem: float(a) Wynik Dostałem: 2.2999999999999998 Chcę rozwiązanie tego problemu. Pros

python floating-point precision floating-accuracy 2009-01-02

---

74Ciepło

9Odpowiedz

Jak przekonwertować ciąg na liczbę w Perlu?

Jak przekonwertować ciąg zawierający numer do jego wartości numerycznej w Perlu?

string perl floating-point 2008-11-14

---

9Ciepło

8Odpowiedz

Radzenie sobie z problemami dokładności w liczbach zmiennoprzecinkowych

Zastanawiałem się, czy istnieje sposób przezwyciężania problem dokładności, który wydaje się być wynikiem wewnętrznej reprezentacji mojego urządzenia liczb zmiennoprzecinkowych: Dla dobra klarowność p

c++ floating-point floating-accuracy 2009-02-26

---

10Ciepło

2Odpowiedz

Jak mogę przekonwertować cztery znaki do 32-bitowego float IEEE-754 w Perlu?

Mam projekt, w którym funkcja otrzymuje cztery znaki 8-bitowe i musi przekonwertować wynikowy 32-bitowy zmiennoprzecinkowy IEEE-754 na zwykły numer Perla. Wygląda na to, że powinien istnieć szybszy sp

perl floating-point ieee-754 2009-04-20

---

13Ciepło

6Odpowiedz

Problem konwersji z int na float

Istnieje dziwne zachowanie, którego nie mogę zrozumieć. Uzgodniono, że liczba zmiennoprzecinkowa to przybliżenia, więc nawet operacje, które w sposób oczywisty zwracają liczbę bez liczb dziesiętnych,

c# floating-point 2009-06-19

---

194Ciepło

7Odpowiedz

Jak przekonwertować ciąg na float w JavaScript?

Próbuję parsować dwie wartości z datagridu. Pola są numeryczne, a gdy mają przecinek (np. 554,20), nie mogę uzyskać liczb po przecinku. Próbowałem już parseInt i parseFloat. Jak mogę to zrobić?

javascript parsing floating-point 2009-03-13

---

6Ciepło

8Odpowiedz

Przesyłanie tablicy niepodpisanych znaków do tablicy zmiennych

Jaki jest najlepszy sposób konwersji niepodpisanej tablicy znaków na tablicę typu float w języku C++? że obecnie mają pętli następująco for (i=0 ;i< len; i++) float_buff[i]= (float) char_buff[i];

c++ casting floating-point char unsigned 2009-05-05

---

11Ciepło

1Odpowiedz

Co oznacza błąd zmiennoprzecinkowy -1. # J?

Ostatnio, czasami (rzadko), kiedy eksportujemy dane z naszej aplikacji, dziennik eksportu zawiera wartości zmiennoprzecinkowe, które wyglądają jak "-1. # J". Nie udało mi się go odtworzyć, więc nie wi

c++ c floating-point printf 2009-05-08

---

6Ciepło

2Odpowiedz

Czy implementacja zmiennoprzecinkowego języka Java nadal ma problemy zidentyfikowane przez Kahan?

Przeczytałem kilka dokumentów z Kahan dziś wieczorem i jego famous rant przeciwko Java. Zanim zanurkowałem w specyfikację JVM, czy coś się zmieniło od początkowego rantu na tym froncie? Na przykład: u

java floating-point 2009-03-30

---