Надо же в уравнение z=sqrt(x*y)
подставлять прямые y=4x и x=4 ?
Не надо подставлять. Надо просто понимать, что первые три уравнения вырезают некий вертикальный цилиндр (фактически здесь -- призму, но и этого не надо; важно лишь, что вырезают и что вертикальный).
А про две последних поверхности, которые наклонные, нужно знать лишь, кто из них выше, а кто ниже в пределах цилиндра (убедившись, что они в пределах цилиндра не пересекаются).
И не нужно ничего рисовать. Во всяком случае, не следует пытаться рисовать аккуратно, вникая в детали; и конус там, не конус -- не имеет ни малейшего значения. Для любых практических целей это абсолютно вредно.