Да, задача сформулирована криво. Некто написал на бумажке два числа, одно меньше другого, и наугад выбрал бумажку и показал Вам. Ваша задача - угадать, меньшее или большее число из двух осталось на второй бумажке.
Итак, есть

- данные неизвестные числа, и показывают нам или

, или

, с равными вероятностями. В решении предлагается задаться любой монотонно возрастающей функцией распределения

, и, глядя на число

(то ли

, то ли

) на бумажке, говорить, что второе меньше, с вероятностью

, и больше - с вероятностью

.
Что значит "говорить то-то или то-то с такой-то вероятностью" - это значит, нужно проводить дополнительный эксперимент, кидая косую монетку, выпадающую гербом/решкой с заданными вероятностями (ГСЧ, да как угодно), и давать ответ в зависимости от того, что выпало.
Тогда по формуле полной вероятности вероятность угадать есть вероятность угадать, если число на бумажке - это

, умножить на вероятность этого, и плюс вероятность угадать, если число на бумажке - это

, умножить на вероятность этого:

