Но хочется понять, откуда оно взялось, логику создателей этого обозначения.
Тут Вы слишком много внимания уделяете именно обозначениям, а меж тем всё просто: интегрирование (неопределенное) -- операция обратная к дифференцированию, просто вместо производной под знак интеграла записывается дифференциал первообразной. Так уж исторически сложилось, что тут это удобнее в использовании, чем производная.
по какому отрезку пробегает
и по какому
? Прямой порядок или обратный?
Тут всё однозначно, знаки интеграла и дифференциала образуют пару: пара внутренняя и пара внешняя. Или вопрос был риторический?