Самый незадумчивый способ: сформулировать задачу ЦЛП, решить и вычислить число решений.
Почитайте как писать формулы.
Полегче будет, наверное так: сделать замену переменных (сдвинуть в начало координат) - получим условия
, уже хорошо, хотя останутся ограничения сверху...
Далее, есть похожая задача, когда ограничения сверху нет - там понятно как... А! Ну в принципе и тут аналогично... т.е. можно обозначить число решений функцией от параметров, найти простые соотношений и основную рекуррентность и вперед...
Можно и через производящие функции.