Вы что-то вообще не то делаете.
Для того, чтобы найти обратную матрицу методом эквивалентных преобразований, вам нужно записать саму матрицу, а рядом единичную матрицу той же размерности. Далее, производя эквивалентные преобразования, нужно "обменять" эти матрицы местами. В результате, слева у вас будет находиться единичная матрица, а справа - обратная.
Сначала методом Гаусса приводим матрицу к ступенчатому виду.
/ X X X | 1 0 0 \
| 0 X X | 0 1 0 |
\ 0 0 X | 0 0 1 /
Затем домножаем каждую строку матрицы на такое число, чтобы диагональ левой матрицы состояла только из единиц.
/ 1 X X | X X X \
| 0 1 X | X X X |
\ 0 0 1 | X X X /
Приводим левую матрицу к ступенчатому виду только уже "снизу вверх".
/ 1 0 0 | X X X \
| 0 1 0 | X X X |
\ 0 0 1 | X X X /
Правая матрица теперь является обратной.
А вообще советую использовать другой метод нахождения обратной матрицы (тот, что с алгебраическими дополнениями), в нем вероятность сделать ошибку меньше.
