Помогите привести уравнение поверхности второго порядка к каноническому виду

[mad_math]

А что вы делали по "моему методу" и что не получилось?

[KsuKsu]

Вы по инвариантам приводите? Мне по инвариантам только вид поверхности определить надо было, а привести другим способом.
Если этим методом, то у меня L₃ получаются большие числа и отрицательные.

[mad_math]

То, что вы делали тоже называется по инвариантам.
Я точно та же искала базисные векторы новой системы координат, только для нулевых корней характеристического уравнения не составляла систему уравнений (ибо это бесполезно), а выполнила этот алгоритм:

Eсли имеется двойной нулевой корень \( \lambda_1=\lambda_3=0 \), то направление \( l_2 \), соответствующее простому корню \( \lambda_2 \), найти как ненулевое решение системы \( (A-\lambda_2\cdot E)\cdot l_2=o \). Вычислить проекцию \( a_{\text{pr}}= a-\frac{a^T\cdot l_2}{|l_2|^2}\cdot l_2 \). Если \( a_{\text{pr}}=o \), то направление \( l_1 \) найти как ненулевое решение системы \( A\cdot l_1=o \). Если \( a_{\text{pr}}\ne o \), то направление \( l_1=-\tau_1\cdot a_{\text{pr}} \). Направление \( l_3 \) найти, используя векторное произведение: \( \vec{l}_3=[\,\vec{l}_1,\vec{l}_2\,] \).

Нормируя полученные векторы \( l_1,\,l_2,\,l_3 \), определить координатные \( s_1=\frac{1}{|l_1|}\cdot l_1, s_2=\frac{1}{|l_2|}\cdot l_2, s_3=\frac{1}{|l_3|}\cdot l_3 \) столбцы векторов \( \vec{s}_1,\,\vec{s}_2,\,\vec{s}_3 \) канонического базиса.

[KsuKsu]

А L₂ у вас какой получился? Я его правильно нашла или нет? Он у меня получился:

2 -1 3

[mad_math]

\( l_2 \) такой же получился, только в матрицу перехода записывают не его координаты, а координаты единичного вектора, т.е. \( l_2 \) нужно ещё нормировать.