floating-point

5Ciepło

3Odpowiedz

Asercje testowe dla krotek z pływami

Mam funkcję, która zwraca krotkę zawierającą między innymi wartość zmiennoprzecinkową. Zwykle używam assertAlmostEquals do porównywania, ale to nie działa z krotkami. Ponadto, krotka zawiera również i

python unit-testing floating-point tuples assert 2010-06-11

---

8Ciepło

3Odpowiedz

Float32 do Float16

Czy ktoś może mi wyjaśnić, w jaki sposób przekonwertować 32-bitową wartość zmiennoprzecinkową na 16-bitową wartość zmiennoprzecinkową? (s = znak e = m = wykładnik i mantysa) Jeśli 32-bitowy pływak jes

c floating-point 2010-06-11

---

11Ciepło

5Odpowiedz

Jak obliczyć pierwiastek kwadratowy liczby bez użycia wbudowanych?

Jak mogę utworzyć metodę zwracającą sqrt danego nunbera? Na przykład: sqrt (16) zwraca 4 i sqrt (5) zwraca 2.3 ... używam Java i wiedzieć funkcję Math.sqrt() API ale muszę sam sposób.

algorithm math floating-point square-root 2010-06-16

---

6Ciepło

3Odpowiedz

format podwójnej precyzji w PostgreSQL

Mam tabeli z 3 kolumny: customer_name varchar ,account_type varchar ,current_balance double precision Przykładowe wartości dla current_balance: 1200 1500.5 1500 chcę, żeby wyświetlić tak:

postgresql formatting floating-point 2010-06-26

---

5Ciepło

3Odpowiedz

Jak przekonwertować float sześciokątny na zmiennoprzecinkowy w C/C++ za pomocą _mm_extract_ps SSE GCC instrinc function

Piszę kod SSE do splotu 2D, ale dokumentacja SSE jest bardzo rzadka. Wyliczam iloczyn kropki z _mm_dp_ps i używam _mm_extract_ps, aby uzyskać wynik produktu dot, ale _mm_extract_ps zwraca heks repreze

c++ gcc floating-point hex sse 2010-06-28

---

9Ciepło

3Odpowiedz

Porównywanie zmiennoprzecinkowe w STL, BOOST

Czy w zestawie STL lub w boost znajduje się zestaw ogólnych prostych funkcji porównania? Ten, który znalazłem, zawsze wymaga parametrów szablonu i/lub utworzenia szablonu struktury . szukam czegoś o s

c++ floating-point 2010-05-14

---

16Ciepło

3Odpowiedz

Różnica czasu w sekundach (jako zmiennoprzecinkowa)

>>> from datetime import datetime >>> t1 = datetime.now() >>> t2 = datetime.now() >>> delta = t2 - t1 >>> delta.seconds 7 >>> delta.microseconds 631000 Czy istnieje sposób, aby uzyskać to jak

python datetime floating-point 2010-05-21

---

9Ciepło

3Odpowiedz

Jak skutecznie porównywać znak dwóch wartości zmiennoprzecinkowych podczas obsługi zer ujemnych

Szukam dwóch liczb zmiennoprzecinkowych, szukam sposobu wydajnego, aby sprawdzić, czy mają ten sam znak, biorąc pod uwagę, że jeśli jakieś z dwóch wartości wynosi zero (+0,0 lub -0,0), należy uznać, ż

floating-point compare sign zero negative-number 2010-05-27

---

5Ciepło

6Odpowiedz

Liczba zmiennoprzecinkowa w Javie

Czy ktokolwiek mógłby mi zadać pytanie, dlaczego wynik tego programu nie jest "inny niż inny"? public static void main(String[] args) { float f1=3.2f; float f2=6.5f; if(f1==3.2) System.out.prin

java numbers floating-point 2010-05-29

---

10Ciepło

4Odpowiedz

pyton pływających numer

jestem rodzaju mylić dlaczego python dodać dodatkową liczbę dziesiętną w tym przypadku, proszę mi pomóc wyjaśnić >>> mylist = ["list item 1", 2, 3.14] >>> print mylist ['list item 1', 2, 3.1400000000

python floating-point numerical floating-accuracy 2010-06-06

---