У Вас слева всегда положительно определенная симметричная матрица, справа симметричная, но вот положительно ли определенная? — это зависит от

. При достаточно большом отрицательном

вещественного решения просто не существует.
Пусть все хорошо. Более того, пусть все собственные числа

различны (я не уверен, что это нужно). Тогда существует ортогональная

, приводящая

к диагональному виду:

. Тогда легко извлечь корень из

, и

должно быть одним из решений. (Хвост матрицы можно всегда добить нулями...)
P.S. Фактически, нам подходит любой алгорифм извлечения
симметричного квадратного корня. Указанный метод лишь доказывает существование оного.