ИИ будет развиваться по привычным нам законам экономики. Пока нет никаких оснований, что ИИ ворвётся во все слои нашей жизни
Во-первых, не доказано. Возможность рекурсивного самоусиления - это эмпирический вопрос, диванософией не решается.
Во-вторых, законы экономики не запрещают получать за 100 лет больший рост, чем за предыдущую 1000.
ВЫ КОПАЕТЕ ЛОПАТОЙ?
Лично я вообще не копаю. Но 300 лет назад большая часть картошки вскапывалась лопатой (ну или чем-то лишь немного более хитрым), а сейчас большая часть картошки лопату видит первый раз в магазине в соседнем отделе.
Если же применить Ваши рассуждения к картошке в 18 веке, то получится "нет никаких оснований полагать что машины серьезно повлияют на доступность картошки".