Существуют алгоритмы с самыми различными вариантами поведения при

, при том, что числа

они уменьшают на

.
От Вас (и преподавателя) зависит выбор конкретного поведения из бесчисленного множества возможных. Если преподавателя нет, выбирать должны Вы.
Я бы в какой-то ячейке записывал

, если

("нормальный случай"), и

, если

(это означает, что разность на ленте не записана, и нефиг её там искать). По-моему, это удовлетворило бы самого взыскательного преподавателя.