floating-point

13Ciepło

2Odpowiedz

Znaczący spadek wydajności Math.Round na platformie x64

Zauważyłem bardzo znaczący (~ 15x) spadek wydajności podczas używania Math.Round do konwersji podwójnej na int podczas kierowania na x64 w porównaniu do x86. Przetestowałem go na 64-bitowym systemie W

c# .net performance floating-point 2016-11-07

---

5Ciepło

2Odpowiedz

Czy spławik może być potknięty przez podwójne bez utraty precyzji?

Jeśli mam C# float, czy mogę przekonwertować go na double bez utraty precyzji? Jeśli ten double zostanie przekonwertowany z powrotem na float, czy będzie miał dokładnie tę samą wartość? Test

c# .net floating-point precision floating-point-conversion 2016-11-11

---

9Ciepło

2Odpowiedz

Porównanie NaN w Kotlin

Więc niedawno zacząłem kochać język kotlin. Dzisiaj, porównując duble, natknąłem się na nieuniknione NaN. fun main(args: Array<String>) { val nan = Double.NaN println("1: " + (nan == nan))

floating-point nan kotlin 2016-06-17

---

6Ciepło

1Odpowiedz

Pytania dotyczące operacji na NaN

Moja SSE-FPU generuje następujące Nans: Kiedy zrobić każdy podstawowy dwusystemowy jak ADDSD, SUBSD, MULSD lub DIVSD i jednym z obu operandów jest NaN, wynik ma znak operandu NaN, a niższe 51 bitów ma

floating-point x86 sse nan ieee-754 2016-06-18

---

5Ciepło

2Odpowiedz

Zaokrąglanie/Obcinanie liczb zmiennoprzecinkowych do N miejsc po przecinku w konfiguracji Inno Pascal Script

To nie wygląda jak pytanie Inno Setup, ale jest faktycznie związane z jego użytecznym skryptem Pascal. Napisałem kod do obliczeń zmiennoprzecinkowych. Height, DivisionOfHeightWidth, Width: Integer;

floating-point integer inno-setup pascalscript 2016-08-16

---

5Ciepło

1Odpowiedz

Sieci neuronowe Keras, Jak usunąć wartości NaN na wyjściu?

Otrzymuję kilka wyników NaN z mojej sieci neuronowej za pomocą Keras. Dostaję tylko około jednego NaN na 10 000 wyników. Pierwotnie miałem warstwę aktywującą relu, która zasilała ostatnią warstwę soft

python floating-point neural-network keras 2016-05-10

---

6Ciepło

3Odpowiedz

Float vs double Math Java

Czy istnieje różnica precyzji pomiędzy poniższymi (zakładając, że wartość aib może być reprezentowana bez utraty precyzji w float). Z pływaków: float a; float b; double result = 1 + a*b; W deblu:

java floating-point precision 2016-08-22

---

7Ciepło

1Odpowiedz

bezwzględna obliczanie wartości

Przy obliczaniu wartości bezwzględnej liczby całkowitej lub wartości zmiennoprzecinkowej, czy istnieje zaleta korzystania abs z stdlib.h lub Fab z math.h porównaniu użyciu operatora warunkowy #define

c floating-point integer 2016-08-23

---

5Ciepło

3Odpowiedz

C zmiennoprzecinkowej zmienia wartość% d za każdym razem wykonywany

Próbowałem wydrukować przy użyciu pacy %d (wiem, że to nie powinno być zrobione. Ale za każdym razem ponownie uruchomić wykonywalny daje się inną wartość) Moje pytanie to: Dlaczego drukowana wartość z

c floating-point computer-science precision 2016-07-08

---

5Ciepło

2Odpowiedz

Jak porównać dwa obiekty z wartościami zmiennoprzecinkowymi w jaśminu?

muszę zrobić pewne oczekiwania w Jasmine, jak: let realValue = callSomeMethod(); let expected = [{ total: 33, saved: 1.65 }]; expect(realValue).toEqual(expected); Ale to się nie powiedz

javascript object floating-point jasmine 2016-07-21

---