^二次型f (x1,x2,x3)=-2x1x2+2x1x3+2x2x3 的矩阵是 A=
[ 0 -1 1]
[-1 0 1]
[ 1 1 0]
解得特征值 λ=1，1, -2.
对应特征向量分别为 (1，-1, 0)^T, (1，0, 1)^T, (1，1, -1)^T.
前两个正交化，得 (1，-1, 0)^T, (1/2，1/2, 1)^T,
再单位化，得 (1/√2，-1/√2, 0)^T, (1/√6，1/√6, 2/√6)^T,
第3个单位化，得(1/√3，1/√3, -1/√3)^T
则正交矩阵 P=
[ 1/ √2 1/ √6 1/√3]
[-1/ √2 1/ √6 1/√3]
[ 0 2/ √6 -1/√3]
使得 P^T*AP=diag(1, 1, -2)，
即 f(y1,y2,y3)=(y1)^2+(y2)^2-2(y3)^2.
扩展资料：
在有限维空间中，正交变换在标准正交基下的矩阵表示为正交矩阵，其所有行和所有列也都各自构成V的一组标准正交基。
因为正交矩阵的行列式只可能为+1或−1，故正交变换的行列式为+1或−1。行列式为+1和−1的正交变换分别称为第一类的（对应旋转变换）和第二类的（对应瑕旋转变换）。可见，欧几里得空间中的正交变换只包含旋转、反射及它们的组合（即瑕旋转）。
参考资料来源：百度百科-正交变换