线性代数中，两个矩阵相互正交是指什么？

A是一个n阶方阵，A'是A的转置，如果有 A'A=E (单位阵)，即A'=A逆，我们就说A是正交矩阵。

正交矩阵是实数特殊化的酉矩阵，因此总是正规矩阵。尽管我们在这里只考虑实数矩阵，这个定义可用于其元素来自任何域的矩阵。正交矩阵毕竟是从内积自然引出的，对于复数的矩阵这导致了归一要求。

正交矩阵不一定是实矩阵。实正交矩阵（即该正交矩阵中所有元都是实数）可以看做是一种特殊的酉矩阵，但是存在一种复正交矩阵，复正交矩阵不是酉矩阵。

定义

如果：AA'=E（E为单位矩阵，A'表示“矩阵A的转置矩阵”。）或A′A=E，则n阶实矩阵A称为正交矩阵， 若A为正交阵，则满足以下条件:

1) AT是正交矩阵

2)  （E为单位矩阵）

3) A的各行是单位向量且两两正交

4) A的各列是单位向量且两两正交

5) (Ax,Ay)=(x,y) x,y∈R

6) |A| = 1或-1

正交矩阵通常用字母Q表示。

举例：A=[r11 r12 r13;r21 r22 r23;r31 r32 r33]

则有：r11^2+r21^2+r31^2=r12^2+r22^2+r32^2=r13^2+r23^2+r33^2=1

r11*r12+r21*r22+r31*r32=0等性质

定理

1. 方阵A正交的充要条件是A的行（列) 向量组是单位正交向量组；

2. 方阵A正交的充要条件是A的n个行（列)向量是n维向量空间的一组标准正交基；

3. A是正交矩阵的充要条件是：A的行向量组两两正交且都是单位向量；

4. A的列向量组也是正交单位向量组。

5. 正交方阵是欧氏空间中标准正交基到标准正交基的过渡矩阵。

在矩阵论中，实数正交矩阵是方块矩阵Q，它的转置矩阵是它的逆矩阵，如果正交矩阵的行列式为 +1，则我们称之为特殊正交矩阵

应该是两个向量正交

两个向量正交是指它们的内积等于零.

两个向量的内积是它们对应分量的乘积之和.

较大的可能性是说tr(A^H*B)=0或A^H*B=0，要看具体语境
前者的来源是复矩阵有一个标准内积 = tr(B^H*A) = sum conj(b_{ij})*a_{ij}，即把A和B拉成向量后的标准内积
后者的意义就是A和B各自的列张成的空间正交

应该是这两个矩阵的乘积未单位阵.