Преобразование вида называется преобразованием подобия.
1) <math>G=F^{-1}*A*F</math>
Где F - невырожденная матрица.
Свойство подобия заключается в том, что такое преобразование не изменяет собственных значений матрицы.
Доказательство.
Пусть:
n - есть собственное число g - есть собственный вектор матрицы G
Согласно определению собственных чисел матрицы.
2) <math>n*g=G*g</math>
Подставим 2) в 1)
3) <math>n*g=F^{-1}*A*F*g</math>
Домножим на F слева
<math>F*n*g=F*F^{-1}*A*F*g</math>
<math>n*(F*g)=A*(F*g)</math>
Обозначим (F*g) как a. Это будет вектор.
4) <math>n*a=A*a</math>
Отсюда видно что n является собственным числом матрицы A. Что и требовалось доказать.
Другие преобразования подобия.
<math>G=F^{-1}*A*F </math>
<math>G=F*A*F^{-1}</math>
<math>G=U^{-H}*A*U</math>
<math>G=U*A*U^{-H}</math>
<math>G=Q^{-T}*A*Q</math>
<math>G=Q*A*Q^{-T}</math>
Здесь F - произвольная квадратная матрица. Здесь U - унитарная матрица. Здесь Q - симметрическая матрица.
Легко доказываются с использованием свойств этих матриц. И свойства обратной матрицы.
Список литература:
[1]Р.Хорн, Ч.Джонсон. -Матричный анализ.-Мир(1985)
стр 60. Раздел 1.3
[2]Калиткин Н.Н. Численные методы. 1987 г. издательство «Наука»
http://neo-chaos.narod.ru/useful/nummethod/kalitkin_06_156-193.pdf