Opened by LanX- at 2009-06-16 11:23
User since
2008-07-15
1000 Artikel
BenutzerIn
2008-07-15
1000 Artikel
BenutzerIn
naja schau dir mal das erste Beispiel 2. Zeile an, ohne BigInt!
Da gibt ein normales print die volle Präzision aus während printf versagt...
10^12 ~ 2^40 !!!
(NACHTRAG: heißt dass, hier wird mit float gerechnet und die Mantisse des Floats ist größer als bei einem Int???)
oder noch deulicher:
Last edited: 2009-06-16 12:01:21 +0200 (CEST)
Da gibt ein normales print die volle Präzision aus während printf versagt...
10^12 ~ 2^40 !!!
(NACHTRAG: heißt dass, hier wird mit float gerechnet und die Mantisse des Floats ist größer als bei einem Int???)
oder noch deulicher:
Code (perl): (dl
)
1 2 3 4 5 6 7 8 9 10
perl -e ' for $j (1001,1_000_001,1_000_000_001) { $i=$j**2; print "\n",$j,": \t",$i,"\t="; printf "%020lu", $i; }' 1001: 1002001 =00000000000001002001 1000001: 1000002000001 =00000000004294967295 1000000001: 1.000000002e+18 =00000000004294967295
Last edited: 2009-06-16 12:01:21 +0200 (CEST)
me and my writeups