атака на RSA без использования разложения на множители
Про это могу сказать, что в Кнуте Искусство программирования во 2-м томе, кажется, рассматривается вопрос о том, как подбирать множители
для того, чтобы число
тяжело разлагалось на множители (там было:
содержат большие простые множители,
должны существенно отличаться (иначе алгоритм Ферма их раскладывает), но не на порядки, и не должны иметь специальный вид).
Можете также посмотреть книжку Василенко Теоретико-числовые методы в криптографии, хотя не обещаю, что там есть что-то прямо нужное.