Thread Hex to signed Integer (1/256) (9 answers)
Opened by JuMi2006 at 2012-09-17 11:15

FIFO
 2012-09-17 20:09
#161874 #161874
User since
2005-06-01
469 Artikel
BenutzerIn

user image
2012-09-17T09:15:42 JuMi2006
Die Doku sagt:

$lb $hb -> $y

00 00 -> 0
00 01 -> 1/256
FF FF -> -1/256
FF F0 -> -1
80 00 -> -128
80 01 -> -127,996
7F FF -> 127,996


Die Funktion decode_d2b($hi, $lo) fasst Werte mit gesetztem MSB im Hibyte als Zweierkomplement auf.
In Deiner Tabelle oben ist hi und lo vertauscht (edit: bzw. die Beschriftung $lb $hb falsch, siehe Funktionsaufruf/Parameterreihenfolge). Nicht so ganz klar ist auch die Bedeutung der doppelten $y-Werte in Deiner Tabelle. Werden den Hex-Werten 0x0001 und 0xffff 1 und -1 zugeordnet und/oder 256?
Last edited: 2012-09-17 20:11:12 +0200 (CEST)
Everyone knows that debugging is twice as hard as writing a program in the first place. So if you're as clever as you can be when you write it, how will you ever debug it? -- Brian Kernighan: "The Elements of Programming Style"

View full thread Hex to signed Integer (1/256)