0. Этимология термина далеко не всегда бывает полезна. Но иногда позволяет прояснить логику автора термина и приблизиться к пониманию термина. В данном случае фигурирует "ожидание". Чего? Видимо, значения случайной величины. Предугадать, какое значение примет случайная величина, мы не можем, она всё же случайная, но чего-то ожидать вправе.
1. Эмпирически оценить, чего нам от данной величины ожидать, можно, многократно повторив получение её значений, и найдя среднее (среднее - не всегда лучшая мера положения, но иногда всё же лучшая, и, по крайней мере, самая распространённая). Но если у нас нет возможности повторять опыт - но есть выражение для вероятностей, с которыми случайная величина принимает те или иные значения - то вместо повторения опытов мы полагаем, что те или иные значение повторяются с частотой, пропорциональной этой вероятности. То есть реальный опыт заменяется воображаемым, причём воображаемый опыт повторяется бесконечное число раз, тем самым обеспечивая то, что частоты появления тех или иных значений в точности совпадают с вероятностями (см. закон больших чисел). Замена реальных опытов вычислением оправдывает прилагательное "математическое" к слову "ожидание". Если величина принимает не конечный набор значений, а непрерывна, то сумма у нас превращается в интеграл.
2. Даже при одинаковом среднем значении случайные величины могут быть весьма различны с практической точки зрения. Если Вам предложат работу на
90 и
100 в авантюру, в которой с равной вероятностью проиграете их или получите $300, средние выигрыши (матожидания выигрышей) будут равны, но во втором случае разброс возможных значений куда резче. Разброс можно измерить отклонением от центрального значения (которое часто берут равным именно матожиданию), при этом нас интересует отклонение в ту и другую сторону, так что надо брать какую-то чётную функцию от отклонения. Можно и абсолютную величину, но оказывается, что при этом нам не проще, чем если бы взяли квадрат отклонения. Дело в том, что в случае квадрата полученные оценки разброса, величины дисперсии, имеют очень полезное свойство - дисперсия суммы или разности независимых величин равна сумме их дисперсий. Это очень помогает в расчётах. Формула для расчёта дисперсии очень похожа на формулу для матожидания, только вместо значения величины на вероятность умножается квадрат отклонения величины от среднего.
3. Однако выбор квадрата приводит к определённой трудности - величина имеет иную размерность, чем исходная - размерность квадрата исходной. Поэтому используется также корень квадратный из дисперсии.