На данный момент нам известен только один разумный вид - человечество. Поэтому все, что мы знаем о свойствах разума, получено индукцией по одному члену. Мы, таким образом, не знаем, какие свойства нашего разума присущи любому разуму вообще, а какие - именно человеческому разуму.
На самом деле всё ещё хуже - не существует даже однозначного понятия "разум", хотя с понятиями вроде "психика", "мышление" или "интеллект" немногим лишь ясней. Но это всё равно лучше, чем с такими дефинициями, как "сознание", "субъект", "Я". Посему я вообще постерегусь говорить, что тот же сильный ИИ может обладать разумом или сознанием.
Эрго, любые рассуждения на эту тему будут иметь характер фантазий и спекуляций.
Ничего не имею против фантазий и спекуляций, особенно если эти фантазии и спекуляции имеют какие-то реальные корни, а не есть сферический конь в вакууме.