Thread Kleines Rätsel (14 answers)
Opened by sid burn at 2007-06-11 12:38

sid burn
 2007-06-11 15:41
#77438 #77438
User since
2006-03-29
1520 Artikel
BenutzerIn

user image
[quote=nepos,11.June.2007, 12:04]Weil das ganze binär gespeichert wird und dadurch nicht jede Zahl wirklich auf dem Rechner darstellbar ist?[/quote]
Okay, ich glaube solangsam verstehe ich. Oder auch nicht.

Also sagen wir, wir haben eine Fließkommazahl die mit 32bit dargestellt wird. 16bits werden für die Zahl vor dem Komma 16bit für die Zahl nach dem Komma benutzt.

Und wenn ich nun "0.7" schreibe muss er das irgendwie bitweise darstellen. Wie er das genau macht weiß ich nicht. Ich würde die Zahl einfach wie mit reverse umdrehen und dann möglichst nahe veruschen heran zu kommen. Aber anscheind versucht er also die "0.7" als "70000" etc. zu speichern. Und dort versucht er es eben so nah wie Möglich an diese Zahl durch seine begrenzte Bits zu kommen.

Dass schafft er nicht, rundet also auf/ab. Er versucht also so nahe wie Möglich an diese Zahl zu kommen. Dadurch ist es also entweder mehr/weniger als gewollt.

Hmm, ich glaube ich muss mir mal anschauen wie Zahlen genau gespeichert werden... Ich finde es immer noch unlogisch...
Nicht mehr aktiv. Bei Kontakt: ICQ: 404181669 E-Mail: perl@david-raab.de

View full thread Kleines Rätsel