Это был контрпример к утверждению что принципиально невозможно самоусложнение систем. Собственно вся биосфера тому прямой контрпример, самоусложнилась из простейших химических соединений.
И самоусложнение вовсе не привилегия лишь живого - игра Конвея "жизнь"
самоусложняется только так, а это уже полностью искусственное.
Кому "контрпример"? Я тоже не говорил, что самоусложнение систем невозможно. Например, в предыдущем посте я написал про обучение искусственных нейронных сетей. Обучение - это усложнение, и оно может идти без человека. Аналогично с клеточным автоматом. Только я там и ещё кое-что написал. О том, что биологическая эволюция и усложнение клеточных автоматов не одно и то же, потому что это принципиально разные системы. Что доступно одним, недоступно другим. Эволюция - это усложнение гомеостаза, так как жизнь - это диссипативные структуры. У ИИ нет гомеостаза, поэтому без нас ИИ может только разрушаться, а его усложнение быстро приобретёт характер бессмысленных изменений, так как связь со средой у этих систем качественно разная. Этот пост тоже по этой теме.
А ничего что коллектив людей сложнее одного человека и может решать более сложные задачи? Например ни один человек не в состоянии изготовить даже паршивый электронный калькулятор (не на лампах) с самого нуля, коллектив же создаёт и на порядки более сложные устройства. Создание же коллектива людей не намного сложнее создания одного человека. Т.е. с ростом количества людей в коллективе сложность решаемых задач растёт, а порог для создания этого же коллектива остаётся практически постоянным и потому неизбежно будет превышен? "Специализация? не, не слышали".
Так что аргумент сложности преодолевается. Пусть не прямо вот сейчас, принципиально.
Про специализацию мы слышали. Тем не менее "аргумент сложности" ни сейчас не преодолевается и никогда не преодолеется. И это как раз принципиально. И к счастью, я бы добавил.
Коллектив или отдельный человек, то, что ими создаётся, - это алгоритмы. Охота на мамонтов, постройка пирамид, заводов, работа компьютеров, искусственных нейронных сетей или клеточных автоматов, математические или физические теории - это те или иные алгоритмы.
Однако никаким алгоритмом работу мозга не выразить. Обосновать это можно по-разному. Например, через физические свойства таких систем, как ячейки Бенера. Но если для простоты взять именно наш мозг (собственно, он нас сейчас и интересует), то это можно сделать следующим образом.
Какие-либо представления, в том числе о каких-либо алгоритмах, сложности или простоте, естественно, лежат в пределах сложности нашего интеллекта, они возникают в мозге, то есть эти идеи являются некоторым итогом мышления. Но это значит, что сам процесс мышления сколько-нибудь точно ни в каких алгоритмах невыразим. Он сложнее всех мыслимых алгоритмов, обобщает их, является их источником.
Столь же ограниченно применимы к мозгу идеи о сложности или простоте. Вспомните о "красноте красного". Всего лишь цвет, что может быть проще. Но никаким языком красноту красного не выразить. Бесконечная сложность и предельная простота одновременно. Точно так же невыразимы языком эмоции или самоощущение, обобщающие любое более конкретное содержание сознания. Образно говоря, точное, ясное, формальное, конкретные образы, которые мы наблюдаем, - это только гребни волн океана мышления, ни в чём конкретном невыразимого.
Говоря по-другому, не может быть такого языка, на котором бы можно было описать работу мозга, ведь любой язык это тоже некоторый итог работы мозга, поэтому сама работа мозга сколько-нибудь точно языком невыразима. В свою очередь, "не может быть языка" тоже означает, что работа мозга невыразима ни в каких алгоритмах. Точно так же можно сказать, что язык, на котором можно описать работу мозга, должен быть самым богатым, ведь он должен обобщать все мыслимые языки, всё богатство представлений человека, включая цвета, эмоции или самоощущение. Однако самый богатый язык - это язык максимально "не финитистский", то есть максимально не однозначный, не ясный. Проще говоря, не язык, так как он должен быть максимально далёк от привычного нам содержания языков. Тем не мене всё верно, чтобы описать неописуемое, нужно выйти за рамки описания. В итоге то же самое: мышление больше, чем алгоритм, чем язык, сложнее, чем что-либо самое сложное, потому что всё это внутри него.
Поэтому, действительно, вы правы, вряд ли один человек сможет в точности запомнить все алгоритмы, которые требуются для постройки большого сложного промышленного предприятия. Однако наш опыт качественно сложнее, чем все мыслимые алгоритмы, он обобщает их в своей сложности, за счёт чего мы можем формировать глобальные стратегии, которые затем уже делить на конкретные шаги алгоритмов или подыскать специалистов под каждый шаг, а затем оценить их работу. ИИ лучше нас играет в го, но придумали эту игру мы, и оценить его выигрыш тоже можем только мы. Потому что только мы можем вписать эту игру, ИИ и его победу в глобальную стратегию самосохранения, где всё имеет своё значение, так как всё наше поведение подчинено ей. У ИИ нет никаких стратегий, потому что ему всё равно куда двигаться. И иное невозможно, так как работа ИИ имеет в основании наши алгоритмы, но они только простая часть нашего опыта.
В итоге мы всегда ведём, а ИИ, калькуляторы и экскаваторы - ведомые. ИИ - это не интеллект, это механизм "с элементами интеллекта". Он всегда будет качественно проще интеллекта реального, сколько бы он ни "знал". Функция естественного интеллекта ставить задачи и решать их (управлять мышцами в реализации стремления к самосохранению), и ИИ в этом всего лишь очередной помощник.
Многократно экспериментально опровергнутое утверждение.
Выключенные компьютеры без обмена со средой веществом разрушаются? Как ячейки Бенара? А включённые могут существовать вечно, пока есть обмен? Или вы что-то другое имели в виду?
Начните со строгого определения сложности.
В какой конкретно области знания, теории, по-вашему, находится строгое определение сложности? Общее такое: "Сложность - характеристика, отражающая степень трудности для понимания, создания и верификации системы или элемента системы[1]; степень трудности понимания и решения проблемы, задачи. Сложность системы или элемента системы может быть выражена через сложность соответствующих проблем и задач их понимания, создания и верификации."
По-моему, вполне достаточно. Если же вы имеете в виду что-то типа вычислительной сложности и количества шагов, необходимых для решения отдельной задачи, то зачем так уточнять? Что это поможет вам аргументировать? Вы опять хотите предложить мне сформулировать конкретную задачу, которую бы ЕИ решить смог, а ИИ не сможет никогда? И тем самым строго доказать, что ИИ не может быть сложнее ЕИ? Однако я уже пояснял. Доказательство существования такой задачи будет равносильно построению алгоритма её решения. Но тогда, как минимум в принципиальном смысле, и ИИ её решить тоже сможет. Он же алгоритм. Наоборот, то, что не может ИИ, лежит за рамками алгоритмов, поэтому доказательства возможны тоже только общего характера, а не строгие расчёты. Общего представления о сложности в этом случае вполне достаточно.
Обоснуйте.
Невозможность создания ИИ, приближающегося по сложности к ЕИ, - это проблема, имеющая глобальный смысл пределов познания, каковые проявляются в том числе и в ограничении сложности создаваемых человеком систем. Поэтому подтверждение того, что сложность создаваемых человеком систем всегда будет ограничена сложностью интеллекта самого человека, можно увидеть в аргументах логического, практического и физического характера, то есть наблюдать со всех возможных точек зрения. Одна из таких точек зрения была выше. Ниже, как вы хотите, ещё одна.
Имея в качестве образца только себя и свои знания, усложнение возможно только одним способом - это приближать ИИ к тому сложному и глобальному пространственному и временному представлению о себе и мире, которым обладает человечество. Но это представление в явном виде недоступно и нам самим, так как формальные, точные знания только наиболее простая часть нашего опыта.
Как следствие, по мере выхода сложности поведения ИИ за рамки того, что мы можем в этом поведении оценить однозначно (например, ответов, которые можно быстро проверить, или точности простых действий), то есть по мере выхода за рамки нашего наиболее формализованного опыта, оценить поведение ИИ будет всё сложнее, и потому это станет требовать всё больше времени. Причём чем сложнее система, тем важнее решаемые ей задачи, они начинают носить стратегический характер с отдалёнными последствиями, которые вообще невозможно оценить быстро. По тем же причинам будет расти количество возможных вариантов устройства систем или вариантов обучения, заранее не имеющих преимуществ друг перед другом. Обобщая, по мере приближения систем к сложности нашего нынешнего опыта по всем параметрам создания систем будет стремительно расти неопределённость. В результате время, необходимое для выбора адекватных систем, будет стремительно расти, приближаясь к бесконечности по мере приближения сложности поведения систем к сложности поведения нас самих. Ведь предел сложности - это мы. Весь мир, вся его сложность, в нашей голове, поэтому приближать сложность ИИ мы можем только к сложности себя, и это приближение бесконечно.
Но необходимость дать поведению ИИ точную оценку тоже будет расти, наоборот, стремясь к требованию полной определённости. Так как чем важнее задачи, тем важнее знать верное ли решение, почему оно именно такое, не связано ли оно с галлюцинациями системы.
Встреча этих противоположных тенденций произойдёт далеко от сложности опыта человека, так как приближение к предельному уровню сложности бесконечно, а развитие ИИ явно конечно, и в целом будет выражаться в том, что дальнейшее усложнение систем ИИ потеряет всякий смысл.
В итоге искусственный интеллект не выйдет за рамки такого помощника человека, который обладает широким кругозором и способен быстро выполнять относительно простую интеллектуальную работу. Потому что по мере роста важности задач эта работа будет всё больше требовать проверки, провести проверку будет всё сложнее, что будет ограничивать применение систем в важных задачах. Можно сказать, что предел усложнения ИИ выражается в том числе в невозможности создать столь сложную систему, доверять которой в случае важных решений выгоднее, чем не доверять.
Например, можно методами генной инженерии создать модифицированного человека, который будет умнее своих создателей.
Нельзя.
В ДНК не зашифрован план организма, поэтому его нельзя там найти и расшифровать. Честь этого плана "растворена" в среде и возникает в морфогенезе сама собой в ходе самоорганизации посредством реакций Белоусова - Жаботинского. Упорядоченные градиенты концентрации веществ, возникающие в ходе этих реакций, - это разметка формирующегося многоклеточного организма в межклеточном пространстве делящихся клеток зародыша. Эта разметка задаёт дифференцировку клеток в соответствии с функцией органа, затем эти клетки тоже выделяют вещества-морфогены, возникают новые градиенты, и так постепенно происходит рост и формирование организма от общего к частному. Эти градиенты те же самые диссипативные структуры, что и ячейки Бенара, или жизнь в целом. Их поведение отличается высокой неопределённостью, устранение которой равносильно принципиальной возможности описать работу мозга, то есть равносильно созданию СИИ, а это всё невозможно - см. написанное в посте выше.
В результате исследования, которые позволили бы вносить точные изменения в геном (и в целом, куда это требуется, вплоть до выращивания "улучшенного человека" в полностью искусственной среде), потеряют смысл задолго до сколько-нибудь близкого приближения к пониманию того, как конкретно происходит морфогенез и как конкретно им управлять. Потому что полностью аналогично попытке создать СИИ в таких исследованиях будет стремительно расти неопределённость. Рост неопределённости суть недостаток данных для выбора конкретной модели из множества возможных. Он означает, что чем ближе мы будем приближаться к пониманию морфогенеза, тем больше будет требоваться экспериментов, чтобы эти данные получить. А длительность экспериментов при этом будет расти, так как проверять, что из себя представляет очередной образец "улучшенного человека" как минимум долго, потому что заранее неизвестно, когда и что из него вылезет. В свою очередь, продолжение исследований, наоборот, будет требовать всё большей определённости, то есть уменьшения количества экспериментов, потому что представьте в таких исследованиях "неудачные попытки", их этическую сторону или их возможную опасность, если "неудачная попытка" будет агрессивной. В итоге генная инженерия потеряет смысл задолго до возможности создания "улучшенного человека".
"Улучшенного человека" не создать даже наугад, методом случайного тыка в геном. Этому помешает старая среда, от среды клетки или среды утробы, которая не позволит появиться чему-то действительно сильно отличному от нынешнего человека (мозг не сам по себе в организме существует, поэтому его изменения - это более или менее изменения всех систем организма). В том числе созданию помешает среда старых методов воспитания, обучения или среды бытующих в обществе представлений, которые, как в случае маугли, не позволят реализовать интеллектуальный потенциал, а окружающим этот потенциал заметить и оценить. Как и среда клетки или утробы, общество тоже приспособлено под "старого человека", так как состоит из таких людей, в этом контексте оно направляет развитие, а значит, и ограничивает его тоже. Как следствие, случайный тык оказывается слишком близким повторением эволюции, в том числе по времени, при том, что наша эволюция тоже не стоит на месте. Более того, возможности эволюции больше, так как в природе мутации происходят постоянно и не ограничены какой-либо выборкой подопытных. Плюс те же "требования определённости" из-за "неудачных попыток".
Гомеостазис и стремление к самосохранению - мягко скажем, несколько разные вещи. Гомеостазис - это про сохранение физиологического и биохимического равновесия в организме, а самосохранение - про поведение.
А "сохранение физиологического и биохимического равновесия" разве не поведение? Или вы "поведением" только перемещение организма в среде считаете?
Гомеостаз.
