Задаем условия расположения точек:
1.

,

. - Это выбор начала координат и оси OX. (Здесь есть произвол - можно и

объявить нулем вместо

, как сделал я, или еще как-либо - скажем ось OY фиксировать, а не OX).
2.

,

. - Это порядок расположения точек, учитывающий также ваши слова о том что точки 1,2, 3 лежат ``напротив'' A, B, C.
3.

,

,

- Это я добавил, на всякий случай, смотря на ваш рисунок, на котором точки 1,2,3 лежат ``по одну сторону'' от точек A, B, C. Хотя явно вы этого и не написали. Поэтому это ограничение, будем считать не обязательным.
Далее, выражаем все 9 расстояний между точками

(

,

) через 9 ``свободных'' переменных

,

,

,

, и строим целевую функцию, выражающую отличие реальных 9-ти расстояний

от заданных вами 9 расстояний

(

, ...,

).
Я, например, использовал функцию

, которая для численных алгоритмов удобна тем, что не содержит корней (фактически, это многочлен 4-й степени от переменных

,

,

).
Наконец, запускаем какой-либо численный оптимизатор с учетом ограничений, указанных в п.2 (добавление ограничений из из п3., как оказалось для ваших данных, не меняет результат.)
Я использовал - "Поиск решения", встроенный в MS Excel, что и вам рекомендую. Причина - он базируется на одном из лучших в мире solver-ов, лицензируемым Майкрософт у сторонних разработчиков (по моему опыту он работает заметно качественнее, чем, скажем, оптимизаторы встроенные в Matlab, Mathematica или Maple). Число переменных и ограничений в Excel, я не помню точно - то-ли до 40, то-ли до 100 - это еще меняется от версии к версии Excel, но для вашей задачи это несущественно.
Лучший результат для координат ваших 6-ти точек - это такая конфигурация (пишу 12 знаков после запятой):

,

,

,

,

,

.
Целевая функция при этом

, что соответствует, примерно 11 знаков точности в согласовании полученных 9-ти расстояний с заданными.
При работе алгоритма, возникали другие минимумы, дававшие согласование расстояний с меньшей точностью. Лучший из них - с точностью согласования расстояний примерно 8 знаков после запятой (что, вероятно, в вашей задаче - тоже очень высокая точность). Эта конфигурация точек:

,

,

,

,

,

.
Целевая функция при этом

.
Вторая конфигурация геометрически выглядит чуть иначе, чем первая (скажем точки 1 и 3 имеют в ней координаты

соответственно правее и левее, чем у точек A и C, а в первой конфигурации - наоборот. Вероятно, для других данных число решений может быть и больше (а может быть и меньше

. )