Ха! Я решил!
Пусть

- число пар

, удовлетворяющих условию

. Составляем рекуррентное уравнение, явно вычисляя

. Оцениваем суммы простейшим образом, а потом решаем рекуррентное уравнение.
Получаем

.
Скорость сходимости

.
dreamkiller, я думаю, что Вы сами сможете, потому подробно не расписываю

Хотя, если затруднитесь...
(Оффтоп)
суммы по столбцам дают нечто теоретико-числовое, а суммы по строкам - обычный матанализ
(atlakatl)
Есть два равновероятных случая:
1. a>b. r в этом случае равновероятно принимает значения от 1 до b. Тогда вероятность, что r<b/2 равна ½.
2. a<b Тогда a=r и принимает также все значения от 1 до b равновероятно. Опять же вероятность, что r<b/2 равна ½.
Итого общая вероятность равна ½.
А вот и неправильно, бе-бе-бе
