то сначала спросите себя почему это выбор варианта и множество в математике обозначается одним и тем же символом {
Потому что символов не бесконечное количество. Будут омонимичные, ничего не поделаешь. Кроме того даже если за одинаковостью здесь стоят какие-то особенные причины, они не обязательно того вида как у вас (одинаковый смысл записи).
поумнее нас люди придумывали обозначения
Да в принципе такие же люди были, просто обычно более начитанные и менее склонные впадать кое-куда, чем кое-кто. От обозначений требуется удобство — например, чтобы были простые, или чтобы напоминали какие-то другие, и даже эти два желания не всегда совместимы.
Можно предположить, что фигурная скобка здесь возникла в какой-то связи с бытовым употреблением «вот это всё вместе», где перечисляемые элементы нередко тоже пишутся друг под другом и парной скобки почти никогда нет, а со стороны носика скобки пишется пояснение. Чтобы получить текущую запись, надо воспринять эту скобку с наполнением как выражение, избавиться от теряющего смысл пояснения и добавить условия, когда какая альтернатива имеет место. Скорее всего обозначение появилось не сразу в современном виде и имело хитрую историю с мутациями и отбором.
Потому что множество значений и множество вариантов это суть одно и тоже - множество.
Математически множество — это вполне определённая штука, не обязательно имеющая связь с кучей чего угодно.
Банальности про программирование писать не надо, речь идет не о языках программирования, а о математических обозначениях.
И синтаксис, и семантика конструкций языков программирования и формул математического языка имеют много общего.