遥想当年，国内最早应用SIMD技术进行优化的著名软件是梁肇星先生的超级解霸，当初号称使用Pentium MMX指令集可以软解MPEG，借助CPU内置的多媒体指令集能够实现用专用解压卡能实现的性能。那个时候互联网并没有现在这么发达，梁先生为了应用MMX需要付出多大的努力！这么多年过去，MMX早已过时，SSE系列指令集也已经发展了若干代，终于到了该升级换代的时候了！

AVX是Intel在这么多年SIMD技术应用和发展的实践中诞生的。它引入了256位向量处理能力，丰富的数据重排新指令，直观的3、4操作数指令，完整的源和目的操作数Mask体系等，将SIMD指令集的成熟度提升到一个新的水平！更高带宽、更低延时、更小代码！Intel在未来CPU里面将会增加更多面向应用的加速指令，使得软件和硬件的结合更加紧密，更方便开发者构建基于硬件能力的创新的应用。

这时想起不是Intel Parallel Inspector能找内存错误吗？就开到它的最大内存错误检查模式试着跑一把。结果大有收获！原来是使用的框架中犯了一个经常犯的错误: p = new Foo [100] 必须用 delete [] p 结果用了delete p，但是用的是别人的框架啊，几万行代码哪儿去找这个不起眼的错误？还是工具好用，马上改过来，一切恢复正常！

为什么要提这个问题呢？因为最近做过一些项目，很多人一上来看到程序中这里适合用多线程，那里适合用SSE，但是有没有先考虑过这部分程序优化后性能提升的比例能有多少？一般我们在做优化之前都需要有一个基本的估计，需要优化的代码占程序总运行时间的多少，用不同的手段最多能达到怎么样的优化效果，达到这样的效果后是否满足我的既定目标？这样分析下来后才开始分配人力和时间资源。

有些人觉得，我自己心里很清楚程序哪里最耗时。但是感觉往往不是那么精确的，现在寻找热点的工具有很多， VTune，Parallel Amplifier等都可以做到。既然有工具，我们就借助工具定量地进行分析，做为我们开始的第一步。

Intel® Advanced Vector Extensions (Intel® AVX) 在浮点运算上扩展了Intel® SSE的能力。Intel® AVX使用256位寄存器（SSE为128位）并对指令集进行了扩展。每条指令可以同时处理8个float或4个double数据。

对于浮点处理密集型的应用，非常适合于进行AVX优化。Intel支持AVX的Sandy Bridge平台还未发布，在发布之前我们如何进行AVX开发呢？答案是通过Intel® Compiler（ICL）和Intel® Software Development Emulator（SDE），编译并模拟运行包含新指令集的程序。

下面简要介绍模拟环境的搭建。

首先下载并安装ICL 11.1, 最新的11.1版本支持生成AVX指令的程序，在Intel主页上可免费获得30天试用的license。安装好后我们在VS2005集成环境里面就可以使用ICL了。

下载SDE的压缩包并解压到任意目录，然后设置PATH环境变量使之包含这个目录。

我们使用Benefits of Intel AVX For Small Matrices这篇文章附带的源码进行试验。在VS2005中新建C++项目并把源代码文件添加到其中，把代码里面的 #include <gmmintrin.h> 改为 #include <immintrin.h>，该文件头为ICL中支持AVX intrinsic的文件头，然后在ICL上编译通过。这时如果直接运行程序会显示非法指令错误，程序需要在模拟器中运行。

打开一个Command Line窗口并进入可执行文件所在目录，运行：

> sde -- Add4x4Matrices.exe

程序即可正确运行并输出结果。

在开发过程中可以使用Intel Intrinsic Guide，通过它可快速查询SIMD指令（包含SSEx，AVX等）的用法，可以从Intel AVX主页上下载。

资源：

Intel AVX 主页, http://software.intel.com/en-us/avx/

Intel Compiler 11.1, http://software.intel.com/en-us/intel-compilers/

Intel SDE, http://software.intel.com/en-us/articles/intel-software-development-emulator/

Benefits of Intel AVX For Small Matrices, http://software.intel.com/en-us/articles/benefits-of-intel-avx-for-small-matrices/

最近编写一个Firefox的小插件，里面利用D3D进行Render，结果导致Firefox的UI渲染错误（插件后面的主窗口背景变成黑色），检查了好几天发现程序逻辑并没有问题，窗口函数和消息处理都正常。后来偶然发现同样用OpenGL渲染没有问题，再三查找发现问题出在D3D的浮点精度上面。从D3D的文档D3DCREATE条目中查到的：

D3DCREATE_FPU_PRESERVE Set the precision for Direct3D floating-point calculations to the precision used by the calling thread. If you do not specify this flag, Direct3D defaults to single-precision round-to-nearest mode for two reasons:

- Double-precision mode will reduce Direct3D performance.

- Portions of Direct3D assume floating-point unit exceptions are masked; unmasking these exceptions may result in undefined behavior

在调用IDirect3D9::CreateDevice的时候，D3D默认改变了程序的浮点精度（出于性能的考虑），导致Firefox的UI出错，加上了这个选项就正常了，而实际上性能并没有比原来低多少。

在开发实践中，很多不起眼的细节都能影响程序的结果！而很多不相关的事情其实都是有千丝万缕的联系，编码的时候总有在设计时想不到的事情发生，这就是理论和实践的区别所在！印证了一句名言：
In theory, there is no difference between theory and practice. In practice, there is。

我们平时对整数比较熟悉，但是对浮点数比较陌生，这里有篇文章比较深入地探讨了FPU：Know Your FPU http://www.stereopsis.com/FPU.html，和它的更新版.http://www.stereopsis.com/sree/fpu2006.html

文章提到了几点可以改进游戏体验的方向：

1. 通过游戏或引擎的多线程化增加帧速率
2. 加速assert的装入，使得场景的切换更加平滑
3. 利用procedural content generation动态创建丰富的大规模场景，减轻artist的负担
4. 增加更丰富和真实的粒子效果：烟，火，天气系统等
5. 增强游戏内角色的AI
6. 增强游戏物理使得物体之间更自然的互动

过去的这些年，我们在建模和渲染上努力使得游戏场景视觉上的真实性大大增强，各种Shader和强大的GPU运算能力使得3D游戏的画面质量上了一个新的水平。然而，目前很多游戏中只是简单的使用的碰撞检测，没有充分体现出物体的物理特性，场景中物体运动只能按照预设的轨迹或行为进行，无法跟周围的环境进行互动，不具备智能性。在多核时代我们除了进行原来的渲染，游戏逻辑处理外，还可以利用额外的处理器核心增加粒子系统，physics和AI计算，给游戏玩家带来更好的体验。

现在开发人员可以下载Intel提供的免费非商业版Havok Physics和Animation引擎 （http://tryhavok.intel.com/） 进行学习和研究
ISN上面还专门开辟了一个技术论坛对Havok用户进行技术支持：http://softwarecommunity.intel.com/isn/Community/en-US/forums/2508/ShowForum.aspx
让我们一起努力，在游戏中增加更多让我们可以act real的元素！

Intel的SSE（Streaming SIMD Extensions, 流式单指令多数据扩展）技术有效增强了CPU的向量运算能力。支持该指令集的处理器有8个128位xmm寄存器，每一个寄存器可以同时存放4个32位整数(int), 4个32单精度浮点数(float) 或2个64位双精度浮点数(double)。比如我们在3D开发中常见的4元组32位浮点数结构<x, y, z, w>, <r, g, b, a>都可以封装在一个xmm寄存器中。

SIMD（single-instruction, multiple-data）使用单条指令同时完成处理多个数据的操作。假定

我们要计算一个32位浮点数数组中每一个元素的平方根，可以将数组中的每4个元素加载到一个128位xmm寄存器中，然后使用一条SSE指令同时计算这4个数的平方根，然后把所得的4个结果写回内存。

Intel 的SIMD技术从Pentium MMX时代引入，后来发展成SSE/SSE2/SSE3/SSSE3等。在Intel 45nm制程处理器引入了54条新的指令，在Core微架构的下一代Penryn微架构中引入了47条，称为SSE4.1，在Penryn的下一代Nehalem中再引入了另外7条，称为SSE4.2. 新的指令集主要是为了增强多媒体，图象和3D应用程序的性能，这些应用都需要充分发挥CPU提供的能力来进行运算。强烈建议进行这些应用开发的朋友关注一下SSE指令集，不需要很大的工作量就可以给你们的程序带来很大的性能提升。

开发SSE最好的方法是使用编译器＋intrinsics，可以使用类C的函数调用来利用SSE，同时能充分利用到编译器的编译优化。不需要手动编写复杂的汇编代码。最新的Intel Compiler 10可以支持生成SSE4指令。另外最新消息显示VS2008中已经加上了SSE4支持。SSE4的详细内容可以参见这里

使用SSE最常见的就是进行矩阵和向量，这里有一篇很好的whitepaper显示如何使用SSE指令集进行4x4矩阵和4元组向量运算的优化，可以以此为基础打造自己的函数库，并加上最新的SSE4指令集支持。

Optimized Matrix Library for use with the Intel® Pentium® 4 Processor's SSE2 Instructions

http://softwarecommunity.intel.com/articles/eng/2494.htm

附带的源代码中包含单精度(SP)和双精度(DP)浮点数的向量和矩阵运算类，需要用Intel Compiler进行编译。

http://softwarecommunity.intel.com/articles/eng/1957.htm?target=http%3A%2F%2Fsoftwarecommunity.intel.com%2Fisn%2Fdownloads%2FMatrixLibrary.zip