首页 > 解决方案 > AVR C 十六进制和十进制乘法不符合预期

问题描述

在将十六进制整数(例如 0xFFFF)与十进制整数(例如 2)相乘时,我刚刚在我的代码中发现了一个错误。这是出现问题的代码:

print_int_new_line(0xFFFF*2);
print_int_new_line(65535*2);

执行此代码会给我以下结果:

65534
131070

这是相关的UART代码:

void print_int_new_line(uint64_t data) {
    print_int(data);

    print_new_line();
}

void print_int(uint64_t data) {
    char data_buffer[(int)(log(data)+2)]; // size of the number (log(number)+1) + 1 for the /0

    ultoa(data, data_buffer, 10); // convert the int to string, base 10

    // print the newly created string
    print_string(data_buffer);
}

void print_string(char * data) {

    // transmit the data char by char
    for(; *data != '\0'; data++){
        USART_transmit(data);
    }
}

void USART_transmit(const char * data){
    /* Wait for empty transmit buffer */
    while ( !( UCSR0A & (1<<UDRE0)) )
    ;

    /* Put data into buffer, sends the data */
    UDR0 = *data;
}

关于我的设置的一些信息:

MCU:ATmega2560 板:Arduino Mega2560 UART 波特率:38400 IDE:Atmel Studio 7.0.4.1417

使用 AVR 工具链。

我在这个stackoverflow 页面上读到,十六进制和十进制整数之间可以进行乘法运算。此外,在在线c 编译器中对此进行测试可以得到正确的输出。

谁能给我一个解释?

标签: cembeddedavr

解决方案


这种行为是由于处理十进制和十六进制整数常量的差异。

对于0xFFFFand 65535,编译器将首先尝试将值转换为int。但由于平台具有 16 位int类型 where INT_MAXis 32767,因此无法执行该转换。

关键区别在于下一步。对于十六进制常量0xFFFF,编译器会尝试将其转换为unsigned int,它会转换为(unsigned int)65535. 但是,对于十进制常量,不会尝试转换为无符号类型。下一次转换尝试是long int. 这成功并且等效于(long int)65535

所以调用print_int_new_line等效于:

print_int_new_line((unsigned int)65535*2);
print_int_new_line((long int)65535*2);

以及何时2提升做乘法:

print_int_new_line((unsigned int)65535*(unsigned int)2);
print_int_new_line((long int)65535*(long int)2);

unsigned int一次乘法的结果太小,无法容纳完整的结果,因此将其截断为65534。可以保存结果long int,因此它产生 的正确答案131070

long int您可以通过附加L(ie 0xFFFFL)强制十六进制常量使用 a 。


推荐阅读