Насколько я понимаю, такое обозначение используется при составлении вариационного ряда. Т.е. мы из обычного набора

составляем вариационный ряд

. И дальше работаем с вариационным рядом?
Да.
Насколько я понимаю,
--mS-- приписывает вам то, о чем вы даже не подозревали. Вера в человечество.
Как можно проверить, действительно ли при найденных

и

наша функция правдоподобия будет максимальна?
Матанализ никто не отменял. Проверив, что при остальных значениях параметра эта функция меньше, и другими рассуждениями, которым учат на первом курсе.
Как мы пришли к тому, что среднее значение между суммой

и

дало нам оценку по

?
Функция

убывает при росте

, поэтому в нашем случае она будет иметь максимальное значение при минимальном значении

из области изменения аргумента

. Постройте множество

в плокости

, не забывая об ограничении на параметры. В частности, что

строго положительна. И посмотрите, в какой точке

имеет минимальное значение. Это и будет точка максимума. По обеим переменным, обратите внимание.
Можно и так.
Ввиду специфичности функции, этот способ не хуже и не лучше того, что был раньше.
А пришел я к нему основываясь примером 10 из
http://www.nsu.ru/mmf/tvims/chernova/ms/lec/node14.html но тут всего один неизвестный параметр.
Вы не в тему озаботились этим примером. Он не для этого, положите его на место. Там совершенно ясно написано, что именно он призван иллюстрировать: что делать, когда вдруг функция правдоподобия оказывается постоянной. У вас - не так.
Это:
Оценка ММП должна быть асимптотически несмещенная, а значит
Проверяем

:

Значит оценка по

- смещенная
Проверяем


Значит оценка по

- тоже смещенная
тоже, во-первых, неуместно (зачем вам несмещенность?), а во-вторых - очень неграмотно.
(Оффтоп)
Это народу мало, побили бы вас за такое, на самом деле. :)
Оценки - не выборки, что там за подобие выборочных средних нарисовалось в виде сумм? Да, и суммы тоже небрежно посчитаны. На всякий случай, матожидание - тоже не выборочное среднее.
Может есть более логичный способ решения, какой-то структурированный алгоритм, которым можно решить подобные задачи?
Есть, уже два. Если вы чего-то не поняли, это не обязательно дефект решения/изложения. Думайте, читайте, задавайте вопросы, если останутся по размышлении. Но конечно, лучший способ понять - додуматься самому.
В общем, если нужно еще и еще более структурированный алгоритм - то следующий вы рассказываете.