Скачай с
http://www.vitaly-stepanov.narod.ru/downloads.files/Stepanov_Lib_Matrix_IO.rar
http://www.vitaly-stepanov.narod.ru/downloads.files/Stepanov_Lib_Matrix_Operation.rar
это мои собственные разработки - библиотеки для работы с матрицами. Там есть все необходимы функции : нахождение ранга матрицы, обратной матрицы, определителя, приведение к диагональному виду, ступенчатому, работа с перестановками и многое другое. Если разберешься - то написать нужный алгоритм не составит труда (достаточно воспользоваться приведением к ступенчатому виду и проанализировать результат). Имена взяты так, что все интуитивно понятно, есть немного комментариев. К тому же - эта библиотека на чистом C (хотя я пользуюсь C++) так что не придется ничего переделывать.
Конечно, приведенные алгоритмы не идеальны и поддаются оптимизации, но они проверенно работают и использовались мною для решения практических задач по ЭВМ.
Если что, пиши на vitaly-stepanov@rambler.ru