Hexadezimal ändert den Wert nicht, nur das Format, in dem die Zahl geschrieben wird.
(((hex)780/(dec)8))-(dec)31
und
(((dec)1920/(dec)8))-(dec)31
sind gleichwertig und beide werden zu 0xD1
(hex) oder 209
(dezimal) ausgewertet .
Das Byte 39 ist in Ihrer Frage mehrdeutig, da Sie nicht angegeben haben, ob 16:9
11 im Dezimal- oder Hex-Format vorliegt (obwohl ich vermute, dass es 11 im Hex-Format ist).