> restart;
> A:=Matrix([[a,b],[c,d]]);
> B:=Matrix([[1,0],[1,1]]);
> A^(-1).B.A;
> solve({((d/(a*d-b*c)-b/(a*d-b*c))*b-b*d/(a*d-b*c))=0});
取b=0,a=1,d=2,c=3, 即得A^(-1).B.A 是三角矩陣
> A:=Matrix([[a,b],[c,d]]);B:=Matrix([[1,0],[1,1]]);b:=0;a:=1;d:=2;c:=3;
> A^(-1).B.A;
>