Ваша горизонтальная штриховка соответствует тому порядку интегрирования, который был задан:
Вот условие:

Для каждого значения

имеем горизонтальную линию, которая тянется от

до

. Так, самая нижняя, которая при

, тянется от 1 до 7. А потом мы второе интегрирование уже поперёк всех этих линий проводим, по

интегрируем.
Вам надо поменять порядок интегрирования. Чтобы проще было это сделать, следует поменять направление штриховки, лазить сначала по вертикальным линиям от нижнего игрека до верхнего. (Нам этот рисунок предъявлять необязательно).
-- 16 фев 2011, 17:08 --Да, делать придётся отдельно для левого треугольничка и отдельно для правого.