d97rew, вы хотите, чтобы степень первого слагаемого была не больше двух (или равна двум)? То есть, хотите из функции "третьей степени" получить функцию "второй степени", при этом воспользовавшись линейными преобразованиями между старыми и новыми переменными?
Нет необязательно линейными. Получаю функцию 2 степени с разделеными переменными, как полином например, только без смешаного произведения