Не проще ли сначала разобраться с линейным оператором для системы

? Потом просто сдвиги туда-сюда добавить (в целом это будет уже не линейный оператор). Про линейный
на Math.StackExchange есть.
что-то ничего нагуглить не удалось
Странно: то, что выше, я как раз нашёл по «project onto nullspace», первая ссылка.
Кстати, проектировать можно по-всякому. По ссылке, насколько вижу, ортогональная проекция. Наверно, вам она и нужна?