Уж неживая природа симулируется на раз, если не опускаться на микроуровень (химических реакций). Это на порядки проще живого.
Для моделирования не живого действительно часто можно "не опускаться на микроуровень", а для моделирования живого и глубже потребуется. Иначе модель не будет адекватной. В результате то, что вы написали, на самом деле выглядит полностью наоборот. Живое на порядки сложнее не живого, если уж разделять сложность таким образом. См. ниже.
Программа переварит пищу? Нет. Вы, наверное, возразите, что можно сделать искусственный желудок и прикрутить к нему программу, которая будет им управлять. Только в биологических системах нет никаких отдельных программ. У нас программа - это одновременно и материал, из которого сама система состоит. Это принципиальная разница. На одном полюсе механизмы, включая все программы, в том числе искусственные нейронные сети, на другом - биологические системы. Системы закрытые термодинамически равновесные и открытые термодинамически неравновесные. Совершенно очевидно, что первые в принципе не смогут выразить все свойства последних и наоборот, это даже доказывать не надо.
Чем дальше от одного полюса к другому, тем, естественно, больше будет разница в свойствах систем, их поведении. Жизнь находится на одном полюсе, искусственные системы на другом. Поэтому в данном случае, точность копирования не просто ограничена в общефизическом смысле, а одни системы и близко не смогут приблизиться к свойствам систем с другого полюса. Иными словами, точность моделирования жизни сильно ограничена.
В свою очередь, это значит, что сложность создаваемых нами систем всегда будет качественно ниже сложности биологических. К примеру, если искусственные системы смогут быть такими же сложными, как мы, или тем более сложнее нас, то, получается, один полюс всё-таки смог полностью выразить другой, а это в принципе невозможно. На практике это означает, что искусственные системы могут и превосходить нас на уровне каких-то частных элементов нашего опыта, но будут всё больше отставать по мере приближения к сложности поведения в целом. Частные элементы опыта - это понятно, а поведение в целом заключается в том, что мы ставим задачи и решаем их в общем контексте стремления к самосохранению и размножению. Вот эту общую суть искусственные системы смогут воспроизвести только очень ограничено. Поэтому они всегда будут оставаться нашими помощниками, а не равны нам или над нами. Мы всегда будем ставить задачи и решать их - в том числе с помощью тех же искусственных нейронных сетей.
У искусственных систем нет и физически не может быть стремлений, активности. Суть которых в постоянной направленности поведения на восстановление равновесия, сохранении неизменными внутренних параметров - и одновременно абсолютной чувствительности (как следствие бифуркаций), которая, с одной стороны, наоборот, постоянно провоцирует выход системы из равновесия, но с другой - позволяет постоянно чувствовать среду, тонко увязывая стремление к равновесию с нюансами среды. Искусственным системам в принципе не достичь такого сочетания чувствительности и устойчивости. Поэтому, например, очень скоро их развитие (обучение, эволюция) станет среде неадекватным, как следствие, без нас среда их быстро разрушит, сколько бы надёжными они ни были.
Принципиальную разницу в сложности систем можно увидеть и невооружённым взглядом. Достаточно обратить внимание на непосредственно наблюдаемое и прямо-таки глубочайшее отличие искусственных систем от биологических. Мы, стоит нас от притока вещества изолировать, тут же таем - устремляемся к равновесию, распадаемся на элементы и растворяемся в среде. Причём целиком, кости разве что остаются. Это явно не то отличие, которое можно выразить сложностью программ. А выразить надо, чтобы сложность была равна, потому что сложность поведения биологических систем заключена в них на всех уровнях. В том числе это относится и к сложности мозга, интеллекта.
И наконец программа не переварит пищу. Но при этом она может мыслить? С чего бы? Это риторический вопрос, ответ дан выше. А у нематоды описали коннектом, а не всё, что в нём мыслит, отвечает за его развитие и трансформацию. Моделировать работу мозга нематоды это позволит только тоже упрощённо, не во всём богатстве реального поведения. Чем ближе к нему приближаться или чем более сложного мозга коннектом описывать, тем стремительнее будут расти трудности моделирования.
Если вам нужно - вы и занимайтесь. Расскажете потом об успехах.