[问题2014A06]  解答

用反证法, 设存在 \(n\) 阶正交阵 \(A,B\), 使得 \[A^2=cAB+B^2,\,\,c\neq 0.\cdots(1)\] 在 (1) 式两边同时左乘 \(A‘\) 且右乘 \(B‘\), 注意到\(A,B\) 都是正交阵, 可得 \[AB‘=cI_n+A‘B,\] 从而 \[cI_n=A‘B-AB‘.\cdots(2)\] 在 (2) 式两边同时取迹, 可得 \begin{eqnarray*}nc&=&\mathrm{tr}(cI_n) \\ &=&\mathrm{tr}(A‘B)-\mathrm{tr}(AB‘)\\ &=&\mathrm{tr}\big((A‘B)‘\big)-\mathrm{tr}(AB‘) \\ &=&\mathrm{tr}(B‘A)-\mathrm{tr}(AB‘)=0,\end{eqnarray*} 这与 \(c\neq 0\) 矛盾.  \(\Box\)

[问题2014A06] 解答