В общем, числа из компьютера не идеально соответствуют настоящим (математическим), ну и сравнивать на равенство их как правило бессмысленно.
Ну, я бы сказал, что корень это не число, а множество чисел. Квадратный - множество из двух элементов, отличающихся знаком. И математик должен держать этот факт в уме, а где нужна однозначность, пользоваться правилом для выбора (для квадратного корня - брать положительный, например). Некоторые софизмы основаны на том, что корень может быть отрицателен, но делается вид, что он всегда положителен.
А компьютер работает с числами (нет, я знаю, про тип данных
set, но имею в виду, что аппаратно реализована работа с числами). И учитывать возможность того, что результат вычисления неоднозначен, надо на уровне алгоритма, машина выдаст число, в соответствии с умалчиваемым правилом выбора (скорее всего в данной реализации комплексных корней квадратных выбирается значение с положительной действительной, а где она нулевая, положительной мнимой частью).
Поэтому
,
, и их произведение будет -6.
А при перемножении подкоренных выражений прежде вычисления корней
, и корень из этого будет 6