Вы лучше напишите в чем смысл задачи. Определитель в качестве сравнения матриц, да еще тех, которые дополнены единицами до квадратных - это слишком произвольная конструкция. Возможно Вам вообще нужны какие-то статистические методы.
  К примеру, если 

, то в качестве "меры схожести" матриц 

 можно взять сумму квадратов разностей ее элементов:

Например, если 

 и 

, то 

.
И даже это простая мера на случай матриц разных размерностей так просто не обобщается. 
Смысл напишите.