c - AVR C 十六进制和十进制乘法不符合预期
问题描述
在将十六进制整数(例如 0xFFFF)与十进制整数(例如 2)相乘时,我刚刚在我的代码中发现了一个错误。这是出现问题的代码:
print_int_new_line(0xFFFF*2);
print_int_new_line(65535*2);
执行此代码会给我以下结果:
65534
131070
这是相关的UART代码:
void print_int_new_line(uint64_t data) {
print_int(data);
print_new_line();
}
void print_int(uint64_t data) {
char data_buffer[(int)(log(data)+2)]; // size of the number (log(number)+1) + 1 for the /0
ultoa(data, data_buffer, 10); // convert the int to string, base 10
// print the newly created string
print_string(data_buffer);
}
void print_string(char * data) {
// transmit the data char by char
for(; *data != '\0'; data++){
USART_transmit(data);
}
}
void USART_transmit(const char * data){
/* Wait for empty transmit buffer */
while ( !( UCSR0A & (1<<UDRE0)) )
;
/* Put data into buffer, sends the data */
UDR0 = *data;
}
关于我的设置的一些信息:
MCU:ATmega2560 板:Arduino Mega2560 UART 波特率:38400 IDE:Atmel Studio 7.0.4.1417
使用 AVR 工具链。
我在这个stackoverflow 页面上读到,十六进制和十进制整数之间可以进行乘法运算。此外,在在线c 编译器中对此进行测试可以得到正确的输出。
谁能给我一个解释?
解决方案
这种行为是由于处理十进制和十六进制整数常量的差异。
对于0xFFFF
and 65535
,编译器将首先尝试将值转换为int
。但由于平台具有 16 位int
类型 where INT_MAX
is 32767
,因此无法执行该转换。
关键区别在于下一步。对于十六进制常量0xFFFF
,编译器会尝试将其转换为unsigned int
,它会转换为(unsigned int)65535
. 但是,对于十进制常量,不会尝试转换为无符号类型。下一次转换尝试是long int
. 这成功并且等效于(long int)65535
。
所以调用print_int_new_line
等效于:
print_int_new_line((unsigned int)65535*2);
print_int_new_line((long int)65535*2);
以及何时2
提升做乘法:
print_int_new_line((unsigned int)65535*(unsigned int)2);
print_int_new_line((long int)65535*(long int)2);
第unsigned int
一次乘法的结果太小,无法容纳完整的结果,因此将其截断为65534
。可以保存结果long int
,因此它产生 的正确答案131070
。
long int
您可以通过附加L
(ie 0xFFFFL
)强制十六进制常量使用 a 。