W przerwie obiadowej zaczęliśmy debatować nad precyzją typu wartości double
.Precyzja podwójnego po przecinku
Mój kolega myśli, że zawsze ma 15 miejsc po przecinku.
Moim zdaniem nie można powiedzieć, bo IEEE 754 nie czyni założeń o tym i to zależy od tego, gdzie pierwsze 1
jest w binarnym reprezentacji. (tzn. rozmiar liczby przed przecinkiem również się liczy)
Jak można uzyskać bardziej kwalifikowane oświadczenie?
Czy rozumujesz w kategoriach bezwzględnych lub zgodnie z notacją naukową?Jak oceniasz liczbę taką jak 0.001e5? –
Rozmawialiśmy właśnie o tym. Mój kolega nalega na 15 miejsc po przecinku. Moja opinia jest taka, że masz 53-bitową mantysę dla wszystkich miejsc. Ale wydaje się, że trudno to wytłumaczyć w odpowiedni sposób. –
Po prostu, aby było bardziej jasne: Jest to szczególnie problem z C#. Jeśli wewnętrzna reprezentacja C# nie jest IEEE 754, ale 15 miejsc po przecinku, jest to wyjątkowo interesujące. –