AlexSku, задача вырождена.
Первое что надо сделать: отсечь все столбики и строки которые по своим векторам (суммируясь) дают ноль. (Это экономическое вырождение дебитно-кредитных систем)
После вырождения получаем 9 неизвестных и 9 уравнений.
Методы решения СЛАУ