首页 > 代码库 > 各语言系统或编程接口中向量与矩阵存储的差异

各语言系统或编程接口中向量与矩阵存储的差异

*********文中用到的transpose()代表矩阵转置函数,mul()代表矩阵乘法。

本文试图解释DX,HLSL,CG,OpengGL,GLSL中关于矩阵运算及存储的一些模糊概念。

0,先弄清楚,用矩阵来变换行/列向量时,怎样的矩阵才是预期的。

假设有行向量p,列向量q,一个给定的【非对称矩阵】A可以用来变换p可以表示为mul(p,A)(这叫post-multiply),也可以用来变换q,表示为mul(A,q)(这叫pre-multiply)。

但A通常只能代表一个预期的变换(比如旋转平移啥的),这里假设A代表的是行向量p的预期变换,那mul(p,A)是我们预期的变换,而mul(A,q)代表的变换不是我们预期的,如果我们也想用A来对y进行变换,mul(transpose(A),q)才是我们预期的。

如下:

mul(p,A):技术分享

结果记为float3(x*m11+y*m21+z*m31,x*m12+y*m22+z*m32,x*m13+y*m23+z*m33),这是预期的结果。

 

mul(A,q):技术分享

结果记为float3(x*m11+y*m12+z*m13,x*m21+y*m22+z*m23,x*m31+y*m32+z*m33),不是预期的结果。

 

mul(transpose(A),q):技术分享

结果记为float3(x*m11+y*m21+z*m31,x*m12+y*m22+z*m32,x*m13+y*m23+z*m33),这与我们预期的结果一样。

其实就是这么个简单的线性代数结果:技术分享。对于行向量,如果符合预期的变换矩阵是技术分享,那对于列向量,符合同样预期变换的矩阵则是技术分享

 

1,再弄清楚什么是 row-major和column-major。

一个矩阵A(如下):

技术分享

在内存中,如果按照 {{m11,m12,m13},{m21,m22,m23},{m31,m32,m33}}的顺序来进行存储,我们就说这个矩阵是按row-major(行优先)的方式来存储的;

如果按照 {{m11,m21,m31},{m12,m22,m32},{m13,m23,m33}}的顺序来进行存储,我们就说这个矩阵是按column-major(列优先)的方式来存储的。

 

2,观点:

Row-major vs. column-major is just a storage order thing and doesn’t have anything to do with what kind of vectors you use. 

【(在一个系统中,)所谓row-major 和 column-major 不过是(矩阵)数据存储的两种顺序方式,与(系统)使用哪一种向量(行向量或列向量)完全是不相干的两码事。】

3,几个结论。

由于某些语言可以通过预处理指令来改变矩阵存储的方式,以下结论都建立在各系统的默认状态上。

我们假设M=技术分享是DirectX中的一个预期的变换,则技术分享=技术分享

 

那么对于DX,HLSL,CG,OpengGL,GLSL,分别有:

DirectX使用行向量(row vector),使用 row-major 的方式存储。

通过第0点,知道预期变换的矩阵是M=技术分享,按row-major存储顺序结果是: {{m11,m12,m13},{m21,m22,m23},{m31,m32,m33}}

HLSL    :默认使用行向量(row vector),默认使用 column-major 的方式存储。

因为也使用行向量,所以预期变换的矩阵是M=技术分享,按column-major存储顺序结果是: {{m11,m21,m31},{m12,m22,m32},{m13,m23,m33}}

特别注意,HLSL是DX的shader语言,但HLSL跟DirectX的矩阵存储方式不一样,存储顺序结果也不一样。

HLSL中经典的MVP转换写成:OUT.Position = mul(IN.ObjectPosition, WorldViewProjection);

也可以使用行向量:OUT.Position = mul(transpose(WorldViewProjection),IN.ObjectPosition);

参考:https://msdn.microsoft.com/en-us/library/windows/desktop/bb509634(v=vs.85).aspx#Matrix_Ordering 中提到:

Matrix packing order for uniform parameters is set to column-major by default. This means each column of the matrix is stored in a single constant register. 

CG        :默认使用列向量(column vector),默认使用 row-major 的方式存储。

因为列使用行向量,通过第0点知道预期变换的矩阵是技术分享=技术分享,按row-major存储顺序结果是: {{m11,m21,m31},{m12,m22,m32},{m13,m23,m33}}

特别注意,虽然我们常说CG和HLSL很像,但CG中默认使用的矩阵形式和矩阵的存储形式和HLSL都不一样,但其存储顺序却一样。

CG,HLSL都可以通过预处理命令来改变矩阵的存储方式。

CG中经典的MVP转换写成:OUT.Position = mul(WorldViewProjection,IN.ObjectPosition);//这里也跟HLSL刚好相反。

你也可以使用行向量:OUT.Position = mul(IN.ObjectPosition,transpose(WorldViewProjection));

OpenGL 默认使用列向量(column vector),默认使用 column-major 的方式存储。

因为使用列向量,所以预期变换的矩阵是技术分享=技术分享,按 column-major存储顺序结果是: {{m11,m12,m13},{m21,m22,m23},{m31,m32,m33}}

GLSL      : 同OpenGL

 

4,从第3点可以看出,在默认存储情况下:DirectX和OPENGL/GLSL的矩阵存储顺序殊途同归;HLSL与CG的矩阵存储顺序殊途同归。

参考资料:

https://fgiesen.wordpress.com/2012/02/12/row-major-vs-column-major-row-vectors-vs-column-vectors/

https://fgiesen.wordpress.com/2011/05/04/row-major-vs-column-major-and-gl-es/

http://www.cnblogs.com/soroman/archive/2008/03/21/1115571.html

http://www.catalinzima.com/2012/12/a-word-on-matrices/

http://http.developer.nvidia.com/Cg/mul.html

https://github.com/kakashidinho/Cg2glsl

 

各语言系统或编程接口中向量与矩阵存储的差异