第8题要求题目条件，我可以不可以把可逆矩阵p1p2都求出来，然后矩阵相乘得答案。其中p1包含矩阵a的特征向量，p2包含矩阵b的特征向量。
想问下大神们我这个做法可以吗

第一个表达式就是错的
混淆了合同和相似的概念
------------------------
如果P1是A的特征向量正交矩阵
那么P1^TAP1=P1^-1AP1=Da
如果P2是B的特征向量正交矩阵
那么P2^TAP2=P2^-1AP2=Db
对于矩阵而言，特征值是确定的
如果A和B并不相似，那么
P1^TAP1=D=P2^TAP2是根本不存在的
--------------------------------
P1^TAP1=D=P2^TAP2当然是可以成立的，只要A和B合同即可
但P1和P2并不是由它们的特征向量构成的
---------------------
合同和相似根本就是两回事，除非题目出现“求正交矩阵”的字样，那必须通过特征值和特征向量求。
如果只要求“求可逆矩阵”，那根据合同变换的定义求就可以了
-----------------------------
B的第一行与第三行相同，显然|B|=0，这是有0惯性指数的充要条件
所以必然有|A|=0
显然|A|=0的充要条件是a=1
(第一行与第三行相同相同则|A|=0，不同则|A|≠0)
------------------------------
将A的第二行乘以sqrt(9/2)，再将A的第二列乘以sqrt(9/2)，可得A1=
1 0 1
0 -9 0
1 0 1
对应的右乘矩阵为P1=
1 0 0
0 sqrt(9/2) 0
0 0 1
将A的第一行乘以2加到第二行上去，再将A的第一列乘以2加到第二列上去，可得A2=
1 2 1
2 -5 2
1 2 1
对应的右乘矩阵为P2=
1 2 0
0 1 0
0 0 1
显然A2=B
所以待求的可逆矩阵为P=P1*P2=
1 2 0
0 sqrt(9/2) 0
0 0 1