Кстати, а Вы не привели в своем сообщении хотя бы ход Ваших рассуждений для решения задачи.
Про рукопожатия? Пусть было

человек. Каждый должен пожать

руку, при этом каждое рукопожатие будет учтено дважды. Следовательно, всего рукопожатий будет

. Приравнивая это выражение к заданному числу

, получим уравнение, из которого найдём

.
Я рекомендую Вам почитать книжечку
И. И. Ежов, А. В. Скороход, М. И. Ядренко. Элементы комбинаторики. "Наука", Москва, 1977.
А надо? Для задачи на квадратное уравнение?
Видимо,
yra не сталкивался с комбинаторикой и не знает, как получить уравнение без суммирования арифметической прогрессии.
Мне кажется, даже для вступительных заданий простовата
Ну уж какие абитуриенты, такие и задания. А предлагать такую задачу на олимпиаде действительно странно. Может быть, для младших классов? Когда там квадратные уравнения-то изучают?