есть дескать в Matlab'e перегруженный оператор *, и перемножение матриц с ним работает быстрее, чем двойной цикл
Я сильно подозреваю, что
1. Матлаб скриптовый, соответственно любой код в нём вне библиотечных функций работает в разы медленнее, чем можно.
2. Перемножение матриц в библиотеке сильно оптимизировано - это та задача, где наивные три вложенных цикла можно обогнать в несколько десятков раз, если писать код с учетом реальной архитектуры.
Правда я подозреваю, что наивные три цикла обгонят любое функциональное украшательство, если оно не будет подперто специальными костылями под эту конкретную задачу.