Вы лучше напишите в чем смысл задачи. Определитель в качестве сравнения матриц, да еще тех, которые дополнены единицами до квадратных - это слишком произвольная конструкция. Возможно Вам вообще нужны какие-то статистические методы.
К примеру, если

, то в качестве "меры схожести" матриц

можно взять сумму квадратов разностей ее элементов:

Например, если

и

, то

.
И даже это простая мера на случай матриц разных размерностей так просто не обобщается.
Смысл напишите.