Чтобы определить двугранный угол, достаточно определить угол между нормалями плоскостей, только надо определиться в выборе направления этих нормалей, иначе как Вы верно заметили, с вероятностью 1/2 определите дополняющий до развёрнутого угол вместо искомого.
Ну ладно, чуть подробнее, дальше уже некуда.
Уравнение плоскости, проходящей через точку

перпендикулярно вектору

имеет вид

. Какой геометрический смысл приобретёт модуль левой части, если вместо

взять точку, не принадлежащую плоскости? Каков геометрический смысл
знака левой части?