В представленной в разных источниках информации сказано, что решение задачи Неймана можно получить с точностью до константы, то есть однозначности никак не получить?
Дело в том, что задача Неймана (для уравнения Пуассона) -- некорректна. Т.е. она разрешима неоднозначно, если вообще разрешима. Ничего и удивительного, что численные методы для неё склонны к развалам.
С физической точки зрения это вот что означает. Задача Неймана в стационарном случае имеет смысл только тогда, когда суммарная интенсивность источников тепла равна нулю (а что ж вы и хотели-то; если не равна, при условиях теплоизоляции -- то какая уж тут и стационарность-то). И если хоть чуть-чуть это условие (фактически некоторое условие ортогональности) нарушится -- естественно, всё пойдёт в разнос.