Что такое «переобучение»: значение слова в словарях и простыми словами

Сколько значений имеет слово переобучение?

В толковых словарях русского языка слово «переобучение» имеет несколько значений. Вот основные:

Словарь русского языка (МАС)

  • ПЕРЕОБУЧЕ́НИЕ, -я, ср. Действие по знач. глаг. переобучить и переобучать и переобучиться—переобучаться. Полк переформировывался, шло непрерывное переобучение. Н. Никитин, Это было в Коканде.

Толковый словарь Ушакова

ПЕРЕОБУЧ’ЕНИЕ, переобученя, мн. нет, ср. Действие по гл. переобучить-переобучать и переобучиться-переобучаться.

Викисловарь

  • переобуче́ние

    1. (в машинном обучении и статистике) явление, когда построенная модель хорошо объясняет примеры из обучающей выборки, но относительно плохо работает на примерах, не участвовавших в обучении

Википедия

  • Переобучение (переподгонка, пере- в значении «слишком», англ. overfitting) в машинном обучении и статистике — явление, когда построенная модель хорошо объясняет примеры из обучающей выборки, но относительно плохо работает на примерах, не участвовавших в обучении (на примерах из тестовой выборки).

    Это связано с тем, что при построении модели («в процессе обучения») в обучающей выборке обнаруживаются некоторые случайные закономерности, которые отсутствуют в генеральной совокупности.

    Даже тогда, когда обученная модель не имеет чрезмерного количества параметров, можно ожидать, что эффективность её на новых данных будет ниже, чем на данных, использовавшихся для обучения. В частности, значение коэффициента детерминации будет сокращаться по сравнению с исходными данными обучения.

    Способы борьбы с переобучением зависят от метода моделирования и способа построения модели. Например, если строится дерево принятия решений, то можно обрезать некоторые его ветки в процессе построения.