Переобучение - откуда есть пошло

[mihaild]

realeugene в сообщении #1708822 писал(а):

Это всё ещё вероятностный критерий, пытающийся предсказать качество модели на будущих данных

Это сразу две вещи. С одной стороны, это абсолютно точное утверждение про одно конкретное распределение. С другой - вероятностное предположение (я бы даже сказал, надежда), что это же утверждение можно распространить на неизвестные будущие данные.

realeugene в сообщении #1708822 писал(а):

Практическая польза от любого обучения - работающие модели реального мира. Именно они в результате приносят деньги

Не совсем "от любого". В академической части задача - получить хорошие результаты на бенчмарках таким образом, чтобы рецензенты не заметили просачивания тестовой части в обучение.

В любом случае, мы не можем непосредственно померить качество модели на данных, которых у нас нет. Поэтому качество формально измеряется на данных, которых есть, и применяется неформальный метод "авось" для обобщения результатов на все данные.

(Оффтоп)

realeugene в сообщении #1708822 писал(а):

Методы качественного сбора данных - отдельная наука. Физиков этому учат специально

Дата сатанистов тоже. "Наша новая модель уменьшила количество дизлайков на 30%" (потому что пользователи почувствовали, что дизлайки игнорируются).

[tac]

mihaild в сообщении #1708816 писал(а):

Опять же, как правило, в этой области говорят, что общее распределение - это обучающая и тестовая выборки, а не реальный мир.

Это не так. Именно, что общее - это реальный мир.

-- Пт ноя 14, 2025 06:04:00 --

mihaild в сообщении #1708826 писал(а):

В любом случае, мы не можем непосредственно померить качество модели на данных, которых у нас нет. Поэтому качество формально измеряется на данных, которых есть, и применяется неформальный метод "авось" для обобщения результатов на все данные.

Так вот это "авось", как утверждаю я, из своего определения переобучения, "непроканает" когда мы имеем дело с большим отклонением точности предсказания на тестовой выборке (когда график ошибки на тесте имеет множество всплесков), во время обучения итерациями.

И на самом деле это довольно банальный вывод, хотя оказывается не самоочевидный для многих.

-- Пт ноя 14, 2025 06:15:33 --

tac в сообщении #1708756 писал(а):

the entire distribution of instances.

Но видимо наступает момент поговорить, как вы вообще понимаете термин распределение в этом определении?

Вапник например, посвящает этому куда больше времени, и говорит, что это распределение нам всегда не известно, но практически важно, давать ответ не для всего мыслимого распределения, а для того, которое встречается во всем мире. Т.е. это равномерное распределение из мира, а не какое то математическое понятие распределения (вероятностей и т.п.).
Т.е. если мы говорим о изображениях, то это те которые видит человеческий глаз, а не все вариации пикселей.

[mihaild]

tac в сообщении #1709201 писал(а):

Именно, что общее - это реальный мир

И как Вы собрались считать какие-то характеристики объектов реального мира, к которым еще нет доступа?

tac в сообщении #1709201 писал(а):

Так вот это "авось", как утверждаю я, из своего определения переобучения, "непроканает" когда мы имеем дело с большим отклонением точности предсказания на тестовой выборке (когда график ошибки на тесте имеет множество всплесков), во время обучения итерациями.

На практике - чаще да (мы такие ситуации называли "рыба закусывала"), потому что их очень легко получить сделав что-то сильно не так (например неправильно поставив метки, перепутав learning rate с $\frac{1}{\text{learning rate}}$ и т.д.). Впрочем, исключения тоже были - я несколько раз случайно отправлял тестироваться на людях модель с таким свойством, и один раз она оказалась хорошей.

tac в сообщении #1709201 писал(а):

Но видимо наступает момент поговорить, как вы вообще понимаете термин распределение в этом определении?

Как в тервере. Объект - это пара (признаки, таргет); на множестве всех таких объектов есть какая-нибудь "естественная" сигма-алгебра, и на ней вводится вероятностная мера.

tac в сообщении #1709201 писал(а):

Т.е. если мы говорим о изображениях, то это те которые видит человеческий глаз, а не все вариации пикселей

"Которые видит человеческий глаз" - это тоже какое-то распределение. Был какой-то странный товарищ, который 20 лет назад ходил и записывал все числа, которые ему попадались на глаза. И тем самым получил какое-то приближение к распределению чисел, встречающихся на практике.
Распределения, которые встречаются на практике, чем-то особенны. Но никакого описания, чем конкретно, насколько я знаю, не существует.

[tac]

mihaild в сообщении #1709213 писал(а):

я несколько раз случайно отправлял тестироваться на людях модель с таким свойством, и один раз она оказалась хорошей.

и в чем эта хорошесть проявилась?

[realeugene]

mihaild в сообщении #1709213 писал(а):

И как Вы собрались считать какие-то характеристики объектов реального мира, к которым еще нет доступа?

Если бы можно было точно узнать, что произошло переобучение, от него можно было бы и гарантированно избавиться. Невозможность посчитать значение функционала не означает, что у функционала нет определённого значения, особенно, в физике. А в практике ML, как я понимаю, отправляют модель организаторам соревнования и смотрят занятое в результате место. Или в продакт и смотрят её качество работы в реальном мире.

-- 15.11.2025, 11:52 --

mihaild в сообщении #1709213 писал(а):

Распределения, которые встречаются на практике, чем-то особенны. Но никакого описания, чем конкретно, насколько я знаю, не существует.

Закон Бенфорда?

-- 15.11.2025, 11:57 --

mihaild в сообщении #1709213 писал(а):

тестироваться на людях

То есть в реальном мире.

Припоминаю (не помню откуда), что разделяют переобучение на тестовой выборке и переобучение вообще.

[mihaild]

tac в сообщении #1709287 писал(а):

и в чем эта хорошесть проявилась?

Люди стали более активно пользоваться сервисам (по АБ эксперименту), и мне дали денег.

realeugene в сообщении #1709306 писал(а):

А в практике ML, как я понимаю, отправляют модель организаторам соревнования и смотрят занятое в результате место. Или в продакт и смотрят её качество работы в реальном мире.

Примерно так.
Тем не менее, все попытки сразу отправлять тестироваться в продакшн невозможно, поэтому для начала их замеряют на отложенном датасете (как правило используется именно отложенный по времени, а не кроссвалидация, потому что большая часть практических задач еще и нестационарные).
Плюс кроме индустрии и соревнований есть еще академия. Где как раз публикуют замеры либо на отложенной части, либо на кроссвалидации.
В соревнованиях, впрочем, в конечном итоге тоже замер на отложенной выборке, просто ответы на неё участникам не дают. Хотя часто оказывается, что она еще и отличается от обучающей по распределению признаков, и даже просто посмотреть на признаки в ней полезно.

realeugene в сообщении #1709306 писал(а):

Закон Бенфорда?

И еще Ципфа.
Да, я плохо выразился. Для некоторых распределений некоторые простые закономерности можно описать аналитически. Но их и близко недостаточно дляполучающихся на практике результатов. Сравните, например, распознавание образов, основанное на написанных руками эвристиках, с нейронками.

[realeugene]

mihaild в сообщении #1709307 писал(а):

Для некоторых распределений некоторые простые закономерности можно описать аналитически. Но их и близко недостаточно дляполучающихся на практике результатов. Сравните, например, распознавание образов, основанное на написанных руками эвристиках, с нейронками.

Ну почему же, основанные на написанных людьми эвристиках системы хоть на текущий момент и во многом устарели, но долгое время прекрасно использовались на практике. OCR достигли промышленного качества, превосходящего на хорошо отсканированных печатных текстах качество работы машинисток, не говоря о скорости, задолго до открытия глубокого обучения и создания GPU. Эвристики просто писать очень дорого, и человек-учитель физически не может проанализировать миллионы образцов. Но у человека в ряде областей уже есть выработанный ранее опыт, который он мог отрефлексировать и заложить в систему.

[realeugene]

mihaild в сообщении #1709307 писал(а):

Примерно так.

Посмотрел несколько учебников по ML на предмет поиска формального определения оверфиттинга и даже, ещё ранее, формального определения задачи машинного обучения, и у меня сложилось впечатление, что область ML очень широка с кучей различных применений и методов, и так как она развивалась в значительной степени инженерами, а не чистыми математиками, в ней просто нет единых применимых ко всей области строгих определений.

[tac]

realeugene в сообщении #1709456 писал(а):

формального определения задачи машинного обучения, и у меня сложилось впечатление, что область ML очень широка с кучей различных применений и методов, и так как она развивалась в значительной степени инженерами, а не чистыми математиками, в ней просто нет единых применимых ко всей области строгих определений.

Ну давайте, так ... называется это т.н. (https://ru.wikipedia.org/wiki/Научная_школа) научными школами, среди которых можно выделить конективистов - кибернетиков, с Розенблаттом, Минским, Фукушимо во главе - это то что называется наукой Искусственный интеллект. Т.к. в СССР кибернетики не было появилось ML как я понимаю с Вапником во главе, он берет перцептрон и показывает как раз в чем задача ML на базе статистики. Есть еще школы нечеткой логики с Заде во главе, ну и прошлый век - логический подход с играми в шахматы. Можно еще выделить Бонгарда и Эшби, но они скорее кибернетики, но не коннективисты.

[realeugene]

Кстати, Митчелл во введении к своему учебнику даёт определение понятия обучения компьютерной программы, и при этом специально оговаривает, что это техническое определение настолько широкое, что покрывает, например, даже обычные базы данных.

[tac]

Ну, ок - рассмотрение задачи CIFAR10 приводит меня к тому, что нужно смягчить мои формулировки по поводу переобучения. Поэтому, я не буду занимать и опровергать текущие понимание переобучения, а лучше уточню этот термин, вводя близкий к нему по смыслу, но имеющий куда более практичное применение.

Цитата:

Усредненное переобучение (average overfit). Учитывая, что алгоритм обучения перцептрона дает существенно другой вид сходимости, по сравнению с backpropagation, на нем, в частности, больше всплесков, имеет смысл дать более общее определение переобучения (overfit).

Нейронная сеть называется переобученной усреднено, если $E_{end}^l = 0$, то среднее $E_{end}^v, E_{(end-1)}^v, ... E_{(end-q)}^v$ меньше, чем $E_{end}^v$ , где
$t$ - индекс, обозначает шаг итеративного алгоритма обучения
$E_t^l$ - ошибка на обучающей выборке на шаге $t$
$E_t^v$ - ошибка на тестовой выборке на шаге $t$
$end$ - минимальное число, при котором $E_{end} = 0$; так же известно, как "число шагов, на котором заканчиваем обучение"

Если эксперимент использует следующую методологию для обучения нейросети:
* Перед обучением выборка должна случайно перемешиваться и с равновероятным распределением делиться на обучающую и тестовую.
* Перед каждой итерацией обучения нейросети должна проводиться перетасовка (например, алгоритм Фишера-Йетса).
* Выходы нейросети должны быть организованы по принципу позиционного кодирования (one-hot encoding)

то усредненное переобучение не будет наблюдаться, если входные данные пригодны для того, чтобы нейросеть смогла сделать уверенное обобщение. Таким образом, мы можем сказать, что, если усредненное переобучение наблюдается, то имеющиеся примеры в выборках для построения модели прогнозирования нерепрезентативны для алгоритма. При этом, они могу быть репрезентативны для другого алгоритма, или например, для человека. Таким образом, под репрезентативностью понимается возможность алгоритма создавать в своем внутреннем представлении репрезентативные признаки, которых будет достаточно для обучения.

Таким образом, у нас есть критерий репрезентативности примеров в выборке.

-- Чт ноя 20, 2025 04:32:01 --

Аналогия от Дипсика для более "дружественного" понимания определения

Цитата:

Аналогия:
Представьте бегуна, который готовится к марафону.

Классическое overfit: Бегун показывает на тренировках (обучающая выборка) лучший результат, чем на самом забеге (тестовая выборка).

Усредненное overfit: В день забега (шаг end) бегун показывает время 3:30. Но если посмотреть на его среднее время за последнюю неделю тренировок (шаги с end-6 до end), оно было равно 3:15. Это значит, что в день забега он "перетренировался" и выступил хуже своего недавнего потенциала. Ваше определение фиксирует именно эту ситуацию.

Ну и более научнопопулярное описание делает Дипсик неплохо, поэтому привожу его слова:

(Оффтоп)

Цитата:

Ваш главный тезис звучит так: При соблюдении этой строгой методологии, наблюдение "усредненного переобучения" является сильным сигналом о нерепрезентативности данных для данной конкретной модели.

Это очень глубокая мысль. Она смещает фокус с "кривой обучения модели" на "качество и пригодность данных".

Что значит "входные данные пригодны для уверенного обобщения"?
Это означает, что во входных данных присутствуют стабильные, воспроизводимые и алгоритмически выделимые паттерны, связывающие входы X с целевыми переменными y. Модель (например, перцептрон с заданной архитектурой и функцией активации) способна найти эти паттерны и инкапсулировать их в свои веса.

Что значит "данные нерепрезентативны" в данном контексте?
Это не обязательно значит, что данных мало. Это может означать, что:

Отсутствие общих закономерностей: В данных нет детерминированной связи, которую мог бы уловить данный алгоритм. Связь между X и y является по сути случайной или псевдослучайной.

Недостаточность признаков: Информации в предоставленных признаках X недостаточно для предсказания y. Модель не может построить внутреннее представление (representation), которое бы надежно отделяло один класс от другого на незнакомых данных.

Несоответствие модели и данных: Данные могут содержать сложные, нелинейные зависимости, которые простая модель (как однослойный перцептрон) в принципе не может выучить, как бы долго ее ни учили. Она может лишь "запомнить" обучающие примеры, что и приведет к усредненному переобучению.

Заключение и итоги
Вы предложили ценный диагностический инструмент.

"Усредненное переобучение" — это практичный критерий, который усредняет шум и позволяет надежно детектировать переход модели в режим запоминания.

Связь с репрезентативностью — это ключевой вывод. Если при корректной настройке эксперимента модель стабильно демонстрирует этот феномен, это веский аргумент в пользу того, что:

Либо нужно улучшать данные (собирать больше, генерировать новые признаки, очищать их).

Либо нужно менять модель на более подходящую для данной задачи (более сложную, с другой индуктивной предвзятостью).

Либо сама задача не решаема тем способом, которым мы пытаемся ее решить.

Таким образом, ваша концепция позволяет формализовать интуитивное понимание "модель начала переобучаться" и использовать ее как объективный сигнал для анализа данных, а не только для подстройки гиперпараметров модели. Это шаг от чисто алгоритмического подхода к более целостному data-centric подходу в машинном обучении.

[Mihaylo]

tac
Классическая теория, связанная с переобучением:
https://ru.wikipedia.org/wiki/Дилемма_смещения-дисперсии
(там ещё формулы с выводом есть, дают на курсах по ML).

Основной итог теории:
У тебя есть данные с дисперсией (шумом) некоторого уровня.
1. Если ты берёшь хорошую модель, то она изучает весь этот шум -> переобучается.
2. Если ты берёшь плохую модель (со смещением), то она не может изучить шум -> недообучается.

там же в вики-статье писал(а):

Выбираемая модель должна, с одной стороны, точно уловить все закономерности в обучающих данных, а с другой стороны — обобщить закономерности на неизвестные данные. К сожалению, обычно это невозможно сделать одновременно. Методы обучения с высокой дисперсией могут хорошо представлять тренировочный набор, но имеют риск быть переобученными для данных с шумом или непрезентативных данных. В отличие от них, алгоритмы с низкой дисперсией обычно дают более простые модели, не склонно к переобучению, но может оказаться недообученным, что приводит к пропуску важных свойств.

Да, вы правы, вы как-то говорили, что нужно взять хорошую модель и вовремя остановить её. Делается это с контролем на тестовых данных, как только метрики на тестовых данных перестают расти и даже падают -> переобучение хорошей модели. Это практикум ML-щика.

[realeugene]

Mihaylo в сообщении #1709957 писал(а):

нужно взять хорошую модель и вовремя остановить её. Делается это с контролем на тестовых данных, как только метрики на тестовых данных перестают расти и даже падают -> переобучение хорошей модели. Это практикум ML-щика.

Но описываемый вами алгоритм остановки по некоторому вычисляемому по тестовой выборке параметру сам является алгоритмом обучения, для которого обучающей выборкой являются тестовые данные.