атака на RSA без использования разложения на множители
Про это могу сказать, что в Кнуте Искусство программирования во 2-м томе, кажется, рассматривается вопрос о том, как подбирать множители

для того, чтобы число

тяжело разлагалось на множители (там было:

содержат большие простые множители,

должны существенно отличаться (иначе алгоритм Ферма их раскладывает), но не на порядки, и не должны иметь специальный вид).
Можете также посмотреть книжку Василенко Теоретико-числовые методы в криптографии, хотя не обещаю, что там есть что-то прямо нужное.