О случайном перемешивании (shuffle) датасета

[Mihaylo]

Вопрос направлен к матстату. Возьмем классический алгоритм SGD, случайное перемешивание объектов в датасете дает эффект ~10% в качестве. Почему? Как?

Хочется узнать корни этого.

[Sonic86]

А чем не удовлетворяет стандартный ответ о том, что так уменьшается смещение батча от матожидания?
(ну и $10\%$ - это не одно и то же число, а зависит от датасета, в частности перемешивание уже перемешанного датасета ничего не даст).

[Mihaylo]

Sonic86
Спасибо.