floating-point

8Ciepło

4Odpowiedz

Narzędzie różnicujące, które ignoruje formaty zmiennoprzecinkowe (ale nie wartości) w tekście?

Szukam narzędzia diff, które może również porównywać wartości zmiennoprzecinkowe (w ramach pewnej tolerancji) w plikach tekstowych. Jest to dodatek do typowych funkcji porównywania tekstu, z opcjami i

diff floating-point 2009-09-15

---

7Ciepło

2Odpowiedz

Jak mogę zadeklarować zmienną klasy jako punkt zmiennoprzecinkowy w Moose?

Jak mogę zadeklarować zmienną klasy jako zmiennoprzecinkowy w Moose? Moja (fikcyjna) próbka poniżej zawiera błędy dla "Rzeczywistego", "Numeru" itd ... "Str" działa, ale pokonuje cel .. wyszukiwanie/G

perl floating-point moose 2009-09-17

---

13Ciepło

4Odpowiedz

Dlaczego ta awaria nie występuje? Czy nie dzielę tutaj przez zero?

Dostaję nachylenie linii ograniczony przez dwa punkty float slopeXY(CGPoint p1, CGPoint p2) { return ((p2.y - p1.y)/(p2.x - p1.x)); } Jeśli dam mu zerowej wielkości linii, CGPoint p1 = CGPoin

objective-c c crash floating-point 2009-09-19

---

6Ciepło

6Odpowiedz

Arytmetyka w rubinach

Dlaczego ten kod 7.30 - 7.20 w rubinach zwraca 0.0999999999999996, a nie 0.10? Ale jeśli napiszę na przykład 7.30 - 7.16, wszystko będzie dobrze, otrzymam 0.14. Na czym polega problem i jak mogę go ro

ruby math floating-point ieee-754 2009-09-20

---

7Ciepło

5Odpowiedz

Niezależny od platformy sposób uzyskania maksymalnej wartości float w C++

Jaki jest najlepszy, niezależny od platformy sposób uzyskania maksymalnej wartości, która może być przechowywana w C++ w float?

c++ floating-point 2009-09-27

---

6Ciepło

1Odpowiedz

zmiennoprzecinkowej postępowania z wyjątków zmiennoprzecinkowych stos włączony

biegnę do problemu z floating point wyjątki włączone w Visual Studio 2005. Jeśli mam kod jak poniżej: double d = 0.0; double d2 = 3.0; double d3 = d2/d; i gdybym zarejestrować procedura ob

c++ floating-point exception visual-c++ 2009-10-06

---

6Ciepło

3Odpowiedz

Porównując wartości zmiennoprzecinkowych

Właśnie przeczytałem oświadczenie o porównania wartość zmiennoprzecinkową wartości zmiennoprzecinkowe nie powinny być porównywane za pomocą albo == lub! = operatorów. Większość wartości zmiennoprzecin

c# .net floating-point comparison 2009-10-07

---

5Ciepło

4Odpowiedz

Jak odczytać liczby zmiennoprzecinkowe (REAL) z bazy danych sqlite na iphone?

muszę czytać pływających dziesiętne punktu z sqlite db Stworzyłem typ zmiennej w bazie danych jako INTEGER Czytam z sqlite3_column_int do NSInteger zmiennych które części należy zmienić tak mogę czyta

iphone database sqlite3 floating-point 2009-10-08

---

5Ciepło

4Odpowiedz

Nth root małej liczby zwraca nieoczekiwany wynik w C#

Kiedy próbuję pobrać N-ty root małej liczby używając C#, otrzymuję nieprawidłowy numer. Na przykład, gdy próbuję wziąć trzeci root z wersji 1.07, otrzymuję 1, co oczywiście nie jest prawdą. Oto dokład

c# .net math floating-point 2009-10-10

---

5Ciepło

6Odpowiedz

Czy istnieje odpowiednik frexp w języku Java?

Czy istnieje odpowiednik Javy dla funkcji C/C++ o nazwie frexp? Jeśli nie jesteś obeznany, frexp to defined by Wikipedia, aby "zepsuć liczbę zmiennoprzecinkową w mantysę i wykładnik". Szukam wdrożenia

java c++ c floating-point math.h 2009-10-12

---