floating-point

12Ciepło

1Odpowiedz

Dlaczego liczenie do 2^24 wykonuje się szybko, ale liczenie do 2^25 trwa znacznie dłużej?

Błąkałem się, robiąc nieskończone pętle, aby przetestować inny kod/moje zrozumienie, i natknąłem się na dziwne zachowanie. W poniższym programie, liczenie od 0 do 2^24 trwa < 100ms na moim komputerze,

java floating-point 2017-01-12

---

6Ciepło

2Odpowiedz

pow dla wartości całkowych

Potrzebuję wersji pow dla liczb całkowitych. Mam 2 problemy, które trzeba rozwiązać z pow: Jeśli wynik jest większy niż mój integralną typu muszę zacisnąć do numeric_limits::max() muszę być w stanie r

c++ floating-point integer pow clamp 2017-06-15

---

12Ciepło

2Odpowiedz

Java: Dodawanie/odejmowanie Math.ulp() vs. Math.nextAfter()

Próbuję zrozumieć operacje zmiennoprzecinkowe w Javie bardziej szczegółowo. Gdybym poprawnie czytać dokumentację, dodaje posiada dla danego double x: x - Math.ulp(x) == Math.nextAfter(x, Double.NEGATI

java floating-point 2017-11-14

---

8Ciepło

1Odpowiedz

Java/C: Zła implementacja OpenJDK native tanh()?

Przeszukałem niektóre z natywnych kodu źródłowego funkcji języka Java Math. Zwłaszcza tanh(), ponieważ byłem ciekawy, jak go zaimplementowali. Jednak what I found zaskoczył mnie: double tanh(double x)

java c math floating-point ieee-754 2017-01-24

---

49Ciepło

1Odpowiedz

W C++, jest dokładnie jeden z <, == and > gwarantowane, że jest prawdziwe na pływających?

W języku C++, czy mam gwarancję, że dla dowolnego danego float a i float b, jeden i tylko jeden z a < b, a == b i a > b jest prawdziwy? Jeśli to różni się między kompilatorami i platformami, interesuj

c++ floating-point standards floating-point-comparison 2017-02-01

---

6Ciepło

2Odpowiedz

Szybka liczba zmiennoprzecinkowa 2 na x86_64

Czy istnieje szybki sposób pobrania 2.0 do pewnego stopnia zmiennoprzecinkowego x? Mam na myśli coś szybszego niż pow(2.0, x), a najlepiej to, co wektoryzuje się z AVX2. Odpowiednikiem liczb całkowity

c++ floating-point vectorization x86-64 pow 2017-08-23

---

16Ciepło

2Odpowiedz

Dlaczego logarytm jest wolniejszy w Rust niż w Javie?

Gdybym uruchomić te standardy w Rust: #[bench] fn bench_rnd(b: &mut Bencher) { let mut rng = rand::weak_rng(); b.iter(|| rng.gen_range::<f64>(2.0, 100.0)); } #[bench] fn bench_ln(b: &mu

java floating-point rust microbenchmark jmh 2017-07-11

---

11Ciepło

1Odpowiedz

Arytmetyka z bardzo małymi numerami w R

Próbuję pracować z pewnymi prawdopodobieństwami, które stają się bardzo małe, co powoduje problemy. Na przykład probs <- c(4.225867e-03,3.463125e-04,2.480971e-05,1.660538e-06,1.074064e-07,6.829168e-09

r floating-point 2017-04-04

---

5Ciepło

2Odpowiedz

dlaczego wynik jest różny między uruchomieniem interpretera python a kodem Pythona?

Zrobiłem prosty kod na interpretera Pythona i uruchom go. Python 3.5.3 (v3.5.3:1880cb95a742, Jan 16 2017, 16:02:32) [MSC v.1900 64 bit (AMD64)] on win32 Type "help", "copyright", "credits" or "licens

python floating-point 2017-09-09

---

8Ciepło

3Odpowiedz

Wydrukuj liczbę całkowitą lub liczbę zmiennoprzecinkową za pomocą liczby n dziesiętnej

W języku Python, w jaki sposób można wydrukować liczbę, która może być liczbą całkowitą lub rzeczywistą, kiedy ten ostatni przypadek wymagałby ograniczenia mojego wydruku do pewnej liczby cyfr? Krótko

python python-3.x floating-point int precision 2017-02-27

---