И есть ли какие-то другие символы, у которых такая же петрушка?
Есть. Уникод велик, богат и частично противоречив. (Но создаваясь, чтобы выполнить некоторые определённые цели, типа совместимости со старинными кодировками, он ещё легко отделался.)
С удовольствием бы жахнул баллистической ракетой по изобретателям всей этой байды.
Не надо. Представлять человеческие тексты — задача весьма нетривиальная даже сама по себе. Аналог уникода мог бы с большой вероятностью быть даже ещё хуже. Но NBSP это очень полезная штука, как и ZWSP, или например ZWNJ (что уже из совсем другой оперы, но для разнообразия пусть). Тонкие пробелы тоже полезны, их место например как разделителей инициалов в том числе в русской типографике (а то некоторые набирают их вплотную, что вообще кошмар).
Л. Н. Толстой ← обычный, не айс
Л. Н. Толстой ← ☆★☆★☆
Л.Н.Толстой ← никакой, не айс
Л.Н.Толстой ← нулевой ширины, типографике по барабану и ровно так же не айс
Или например фигурный пробел, полезный для позиционирования арабскоцифренных чисел, в большей части шрифтов имеющих одинаковую ширину, без дополнительных проблем:
289,505 коровы
11,3 лошади
5730,06 овцы
Ну ладно, это уже не так нужно, но есть вещи нужные. И всякие нормализации, языкозависимые изменения регистра (правда могли бы для турецкого языка ввести четыре новых буквы, чтобы правила перевода из регистра в регистр были чуточку попроще; сейчас для турецкого I ↔ ı и İ ↔ i, но для большинства латинописьменных языков I ↔ i, и это те же два кодпойнта, что в соответствии выше).