1    -1      2         1                                 Ранг расширенной матрицы системы равен                          

0     5      -3       -1                                числу ненулевых строк после элементарных               

0     0     α-1      3                                 преобразований, соответственно ранг

0     0      0        0                              расширенной матрицы равен 3. Обозначим эту                  

                                                             систему как система (*)

Найдём ранг основной матрицы:

1    -1     2                                  

2     3     1              -2I                                        

-1    -4    α              +I

-1     1    -2             +I                                           

1    -1      2                                          

0     5      -3                                    

0    -5    α+2          +II

0     0      0           

1    -1      2                                             Исходная система будет совместной при   α ≠ 1              

0     5      -3                                            При   α ≠ 1 ранг основной матрицы будет              

0     0     α-1                                           равен 3.

0     0      0            

Ранг основной матрицы системы равен рангу её расширенной матрицы, соответственно система совместна при α ≠ 1 и ß = -1.