Последний раз редактировалось Dicson 08.02.2023, 06:21, всего редактировалось 2 раз(а).
Почему мы считаем, что дважды два — четыре? Потому что такой ответ повышает качество жизни. Человек существует в природной и культурной среде, а своё поведение в конечном итоге оценивает со стороны того, повышает оно качество жизни или нет. Искусственный интеллект существует «внутри» опыта людей, а своё поведение «оценивает» со стороны того, нравится оно человеку или нет. Это принципиальная разница, так как сложность среды, в которой существует человек, качественно сложнее среды, в которой существует ИИ. Соответственно сложность поведения ИИ может только бесконечно приближаться к сложности поведения человека, а сложность поведения человека к сложности условий среды.
Тогда надо бы создать ИИ посложнее, выпустить его на волю, и пусть он тоже существует в сложной среде, обучаясь и оценивая свои знания по отношению к… По отношению к чему тогда ИИ оценивать свои знания, если нет человека, который подскажет, настроит и выкинет лишнее?
Человек оценивает все свои знания в конечном итоге по отношению к тому, как они способствуют самосохранению и размножению (что в комплексе и есть качество жизни). Каковые стремления характеризуют жизнь ещё на физическом уровне (самосохранение — это гомеостаз, а размножение/смерть — это тот же гомеостаз, только на уровне систем организмов или биосферы в целом, как способ обновления и развития таких систем).
Но ИИ физически принципиально отличается от биологических систем, гомеостаз ИИ не прикрутишь. Все ИИ (программное или аппаратное их воплощение) — это замкнутые и равновесные системы, энтропия в них исключительно только растёт, поэтому без нас они в среде только разрушаются, движутся в сторону ещё большего равновесия, желая полностью раствориться в среде. А в биологических системах энтропия, наоборот, уменьшается, так как биологические системы — это открытые термодинамически неравновесные системы, из-за интенсивного обмена со средой они работают против равновесия. Как следствие, в противоположность росту энтропии в замкнутых системах, в открытых системах, наоборот, естественны противоположные процессы — упорядочение и усложнение порядка и гомеостаз.
В итоге мы сами собой эволюционируем, обучаемся и создаём новое, сами собой «понимая» что хорошо, а что плохо, а ИИ без нас вымрет, ибо ему всё равно на всё.
|