Maple находит общие решения Вашего уравнения
Код:
pde:=20*diff(f(x, y), x, x, x) - 4*diff(f(x, y), x, x, y) - 5*diff(f(x, y), x, y,y) + diff(f(x, y), y,y,y) = 0;
ans:=pdsolve(pde);
ans := f(x,y) = _F1(5y+x)+_F2(2y+x)+_F3(2y-x)однако, для нахождения частного решения, удовлетворяющего Вашим граничным условиям нужно либо самому писать программку, либо находить самому в Maple (аналогично тому как бы Вы делали это вручную) выражения для произвольных функций _Fi . Возможно тоже самое происходит и в Mathematica (у меня нет ее под рукой, чтобы проверить) - попробуйте исполнить
Код:
DSolve[20*D[f[x, y], x, x, x] - 4*D[f[x, y], x, x, y] - 5*D[f[x, y], x, y, y] + D[f[x, y], y, y, y] == 0, f, {x, y}]