но ведь проекцию на ось вертикальную вроде берут косинусом (насколько я понимаю)
Косинусом какого угла? Косинус одного угла - это синус другого, а когда угол мал, синус и тангенс примерно равны и взаимозаменяемы.
может быть идет учет что функция

имеет очень небольшие отклонения:?
Разумеется, всё это проделывается в предположении малости

Иначе получится не линейное уравнение мембраны, а гораздо более сложное нелинейное уравнение, которое и решить-то нельзя.