首页 > 解决方案 > cmpeqpd 有时会返回错误的值

问题描述

出于某种原因,有时在我的程序中我看到

cmpeqpd xmm3,xmm0

where xmm0 == {0x2cd000000000, 0x2cd000000000} andxmm3 == {0x0, 0x2011d0800000000} 恰好在 xmm3 中返回{0xffffffffffffffff, 0x0},这是错误的,因为(double)0x0不等于(double)0x2cd000000000.

我注意到它只是偶尔发生。我已经用 rr 记录了程序的执行,以便一致地重现它。有趣的是,在一个超级简化的简单程序中,我再也无法重现这个问题了。我想知道,是否有任何隐藏的微架构状态可以改变 cmpeqpd (cmppd) 行为?

请注意,我检查了相应 ymm 寄存器中的高 128 位是否为零。

标签: assemblyfloating-pointsseavxdenormal-numbers

解决方案


0x2CD000000000(或 0x00002CD000000000 使指数在做什么更明显)是非正规的。确实有一个设置可以使非正规比较等于零:DAZ 标志

DAZ 标志可能在某个时候被设置,它可以解释为什么简化的程序不再显示这种行为。


推荐阅读