cmp

AVX指令集中的32种浮点比较关系详解

  在传统印象中,数字的比较关系只有6种。但在AVX指令集中,Intel一下给出了32种浮点比较谓词,详见下图--

(Intel手册:Table 3-9. Comparison Predicate for VCMPPD and VCMPPS Instructions)

  为什么会有这么多种比较谓词呢?我为此困惑困惑了很久。
  直到最近翻阅了不少资料后,才终于将它们弄懂了。

一、浮点数据类型

  Intel使用的是IEEE 754规范的浮点数据类型。对于浮点数据类型来说,除了可以存储数字、无穷之外,还可以存储 NaN(not a number。非数)。

  NaN(非数)分为两大类--

Subscribe to cmp