Thread Hex to signed Integer (1/256) (9 answers)
Opened by JuMi2006 at 2012-09-17 11:15

JuMi2006
 2012-09-17 20:38
#161877 #161877
User since
2012-09-17
8 Artikel
BenutzerIn
[default_avatar]
Hallo FIFO,

über die vertauschten high- und lowbytes bin ich auch schon gestolpert.
Die 0x001 und 0xffff zeigen die "Auflösung" an. es handelt sich um einen Bruchteil von 256. Also einmal + 0,00390625 und einmal -0,00390625.

Die Reihenfolge des Aufrufs kann man ja simpel fixen das trau ich mir noch zu. Aber bei MSB und Bitschieben bin ich echt absolut am Ende.

Danke und Gruß
Jumi2006

View full thread Hex to signed Integer (1/256)