Эту задачу легко решить точно, но нужно быть готовым к тому, что математическое ожидание может быть бесконечным.
Основу решения составляет идея "самоподобия". Если рассмотреть процесс, идущий по Вашим правилам, и начинающийся с 6 бросаний кубиков, то каждое выпадение 4 порождает одну копию точно такого же процесса. Это позволяет составить уравнение на интересующие Вас величины и найти их.
Конкретно: обозначим через

искомое математическое ожидание числа очков, выпавших в ходе процесса, который начинается с 6 бросаний (про монету пока забыли). Также обозначим через

вероятности:

- это вероятность того, что при 6 бросаниях выпадет ровно

четверок. Эти вероятности находятся по схеме Бернулли: 6 испытаний, вероятность "успеха" в одном испытании равна

.
Величина

складывается из математического ожидания числа очков, которые выпадут при начальных 6 бросаниях, и числа очков, которые привнесут последующие бросания, порожденные выпадением четверок. Это дает следующее уравнение:

Вот его и решите. Если коэффициент при

в правой части окажется больше или равен 1, то это означает, что математическое ожидание бесконечно.
-- Вс фев 20, 2011 16:23:41 --Однако же и без вычислений на самом деле видно, что коэффициент при

в правой части равен математическому ожиданию числа успехов в указанной схеме Бернулли, то есть ровно 1. Поэтому математическое ожидание бесконечно.