Геометрическое нахождение максимума

[vvvv]

Вот геометрическая интерпретация задачи.

[ewert]

Неправильная интерпретация: призма должна быть бесконечной. Во всяком случае, достаточно длинной. То, что её дно у Вас пересекается с наклонной плоскостью -- существенно влияет на решение (хотя и не на ответ).

[vvvv]

А она и есть бесконечная, только это не показано, иначе призмы не было бы видно
Такой рисунок менее информативен.