Байесовский ранг в неортогональных аппроксимациях, как?

[ilghiz]

Добрый день,

последнее время из каждого утюга вещают, что Байесовские методы помогают найти правильную аппроксимацию, но я так и не понял на чем там основан подход.

Вот пусть мы аппроксимируем заданный многомерный массив $A = \left{ a_{n_1,...,n_K} \right} \in R^{N_1 \times ... \times N_K}$ конечной суммой одномерных векторов $b_{r,n_1}^{(1)} ... b_{r,n_k}^{(k)}$, которые нормированы $\forall r=1,...,R, \forall k=1, ..., K: ~~ \sum_{n_k=1}^{N_k} b_{r,n_k}^{(k)} = 1$ и весовыми коэффициентами $\alpha_1, ..., \alpha_R > 0$ в виде

$$\min_{b, \alpha} \sum_{n_1=1}^{N_1} ... \sum_{n_K=1}^{N_K} ||a_{n_1,...,n_K} - \sum_{r=1}^R \alpha_r b_{r,n_1}^{(1)} ... b_{r,n_K}^{(K)}||_2^2,$$

называемую в виде мульти-вей, прокрустово или тензорное разложение, или решаем задачу compressed sensing вида

$\min_x ||y - A x||_2^2$, с таким вектором $x$, что только $R$ его составляющих не равны нулю, или любую другую аппроксимацию, в которой аппроксимируемый объект не может быть тривиально представлен через сингулярное разложение.

Во всех этих задачах имеется подзадача поиска оптимального ранга $R$ и я уже не первый раз слышу, Что только Байесовские методы позволяют наиболее правильно предсказывать этот ранг. Но как?

До этого раньше я к этим задачам так подходил. Суммарная невязка могла совсем почти не отличаться при точном ранге, или слегка больше-меньше, а вот решение изменялось кардинально. Поэтому, в дополнении к невязке я смотрел на число обусловленности активной матрицы, возникающей в задаче наименьших квадратов, и, если происходил резкий скачек вниз этого числа обусловленности, то я предполагал, что решение должно быть "лучше", и тогда рапортовал, что точный ранг найден.

Понятно, что этот интуитивный метод далеко не всегда нормально работал, но все говорят, что надо Байесом, но я так и не смог понять как, вдруг кто знает, пожалуйста, расскажите!

Спасибо!