[游戏开发]unity shader中 CG和GLSL之间矩阵存储方式的差异

在unity shader中计算切线空间光照的时候发现TBN矩阵在计算后并没有转置，这和在GLSL、线代中的计算方法相差一个转置的步骤，因为在GLSL中直接求得的TBN矩阵是切线空间到世界空间的变换，如果要在切线空间计算光照，则需要使用转置TBN矩阵来把向量从世界空间变换到切线空间。

后来查阅了下资料如下：
在CG中使用了行向量来存储TBN矩阵，可以参考这里：https://developer.download.nvidia.com/CgTutorial/cg_tutorial_chapter08.html
“

float3x3 rotation = float3x3(tangent,

                             binormal,

							 normal);

The rows of the constructed rotation matrix are the tangent, binormal, and normal, so the constructed matrix is the transpose of the matrix shown in Equation 8-1. ”

在GLSL中计算出的TBN矩阵是列存储的，参考：
https://learnopengl-cn.github.io/05%20Advanced%20Lighting/04%20Normal%20Mapping/
“我们直接使用TBN矩阵，这个矩阵可以把切线坐标空间的向量转换到世界坐标空间。因此我们把它传给片段着色器中，把通过采样得到的法线坐标左乘上TBN矩阵，转换到世界坐标空间中，这样所有法线和其他光照变量就在同一个坐标系中了。”

unity shader 入门精要90页也有类似的说法。

这也就是为什么在GLSL中获得TBN矩阵后，如果要在世界坐标系下计算可以直接左乘TBN矩阵，如果要在切线空间下计算则需要transpose(TBN)。同样的由于CG中是行向量来存储矩阵，所以直接就是转置后的TBN矩阵。

下方的代码也更能验证这个说法，使用tangent、bitangent和normal组成TBN矩阵后，矩阵右乘其中的某个基向量如tangent，其结果必然为(1，0，0)， (这也代表了tangent向量从世界空间转换为切线空间中的表示)，输出颜色为红色。

Shader "TestMatrixLayout"{
    Properties{
        _MainTex("Albedo", 2D)="white"{}
    }

    SubShader{
        pass{
            Tags{"LightMode"= "ForwardBase"}

            CGPROGRAM
            #pragma vertex vert
            #pragma fragment frag

            #include "UnityCg.cginc"

            struct a2v{
                float3 vertex : POSITION;
                float3 normal : NORMAL;
                float4 tangent : TANGENT;
                float4 texcoord : TEXCOORD0;
            };

            struct v2f{
                float4 pos : SV_POSITION;
                float3 testColor : Color;
            };

            sampler2D _MainTex;
            float4 _MainTex_ST;

            v2f vert(a2v v){
                v2f o;
                o.pos=UnityObjectToClipPos(v.vertex);

                float3 normal = normalize(v.normal);
                float3 tangent = normalize(v.tangent.xyz);
                float3 bitangent = cross(normal, tangent)*v.tangent.w;
                float3x3 tbn= float3x3(tangent, bitangent, normal);

                o.testColor = mul(tbn, tangent);
                return o;
            }

            fixed4 frag(v2f i): SV_TARGET{
                return fixed4(i.testColor, 1.0);
            } 

            ENDCG
        }
    }
    Fallback "Specular"
}

参考
1、https://learnopengl-cn.github.io/05%20Advanced%20Lighting/04%20Normal%20Mapping/
2、https://developer.download.nvidia.com/CgTutorial/cg_tutorial_chapter08.html
3、unity shader 入门精要 P90