Правильно. Вот это и есть вопрос, в который все упирается. Лично мне это вовсе не кажется невозможным. Люди тоже действуют почти вслепую, а их творения переживают настоящую эволюцию. Никто не знает, во что выльется начатое, куда повернет процесс в будущем. Никто не смотрит и не способен смотреть дальше, чем на один шаг вперед. Поэтому "человек создает" - это слишком громко сказано. Там еще полно случайностей, которые никто не предвидел, эффектов, которые никто не планировал, перспектив, о которых никто не думал, пока не "забрался" повыше, но они все оказались полезными.
Есть принципиальная разница между системами. Поэтому случайностей не будет. Сколько бы вы ни строили ракеты, ни одна из них "случайно" быстрее света не полетит. Так же и тут. Только если, может быть, в будущем получится что-то придумать, чтобы перемещаться быстрее света - сквозь какие-нибудь "кротовьи норы" или "подпространство", то в данном случае "нет" окончательное.
Вот тоже идея непонятная. ИИ делает все человечество вместе, а сложность этого продукта должна быть ограничена почему-то одним человеком . А где же тут сложность социальных взаимодействий учитывается? Сложность человечества по вашему тоже не выше сложности одного человека.
Сложность человечества, естественно, выше. Только то, что делает человечество, нам, отдельным человекам, неизвестно. ИИ делаем мы, исходя из своих знаний, из тех, которые помещаются в нашу голову, а не из "знаний человечества".
Кажется, я понял, почему ИИ ничего не светит. Во первых, он - не ячейка Бенара. Во вторых - у него нет гомеостаза (а не квалиа). Эти понятия крайне важные для Dicson, похоже. Но я не улавливаю, в чем там важность. Поэтому сдаюсь.
Попробуйте вытащить ячейки Бенара из воды. Они есть - мы их видим, но они есть, только пока идёт их обмен со средой. Так же и мы. Убери обмен со средой, и мы исчезнем, растворимся, так же как ячейки Бенара. Теперь подумайте, почему ячейки Бенара есть? Откуда в хаосе вдруг появилось упорядоченное движение молекул? Или прочитайте, я писал об этом в теме. Порядок в хаосе возник потому, что так движение к равновесию, то есть рассеяние тепла подогреваемого сосудом с водой, идёт более эффективно, быстрее, проще говоря. Энтропия в мире растёт быстрее, если кое-где она, наоборот, уменьшается. По той же причине существуем и мы - так эффективнее происходит рассеяние энергии.
Вот это постоянное естественно-физическое движение к равновесию и приводит к тому, что все мешающие этому движению флуктуации (те же неадекватные среде знания) сами собой подавляются, а помогающие (адекватные среде знания) развиваются. Но только у открытых систем равновесие никогда не достигается, так как они существуют в интенсивном обмене со средой. Описанный процесс - это и суть познания, и суть эволюции. Пока есть куда развивать эффективность обмена со средой, он вечен. Вечное развитие. Другое дело, что ресурсы среды не бесконечны.
Цитата:
Второе начало термодинамики (в формулировке неубывания энтропии) иногда используется критиками эволюционной теории с целью показать, что развитие природы в сторону усложнения невозможно[49][50]. Однако подобное применение физического закона является некорректным, так как энтропия не убывает только в замкнутых системах (сравн. с диссипативной системой), в то время как живые организмы и планета Земля в целом являются открытыми системами.
В процессе жизнедеятельности живые организмы превращают энергию одного вида (электромагнитную солнечную, химическую) в энергию другого вида (тепловую), тем самым ускоряя суммарное увеличение энтропии Вселенной. Несмотря на "локальное" уменьшение энтропии путем "упорядоченных" процессов, происходит суммарное увеличение энтропии вселенной, а живые организмы являются в некотором роде катализаторами этого процесса. Таким образом, наблюдается выполнение второго закона термодинамики и нет никакого парадокса возникновения и существования живых организмов вопреки глобальной тенденции вселенной к увеличению "беспорядка".
Второе начало термодинамики. Википедия
У вычислительных системам с диссипативными ничего общего нет (см. ссылку, какие диссипативные системы в цитате имеются в виду).
Непонятно, с чего Вы решили, что с созданием всё более сложных систем всё линейно
Вот именно, что нелинейно - это имелось в виду. А если пределов сложности у создаваемых нами систем нет, то как раз и получается, что познание линейно. Знай себе, познавай и создавай. Ни искажения не нарастают, ничего, только предсказательная силы растёт и гомункулусы всё умнее по углам бегают.
Но только Вы его не нашли, а постулировали. Это большая разница:)
Постулировать - это просто заявить. Но у меня всё уже обосновано. Дискуссии нужны для оттачивания аргументов. Помогают находить нужные слова, формулировки.
Но тем не менее, Вас смущает именно текущая архитектура предполагаемого сильного ИИ? То есть, возможного построения его на другой, не нейросетевой основе, Вы не отрицаете?
Отрицаю. Есть детерминированные алгоритмы и недетермированные. Очевидно, что чего-то третьего не будет.
Можно хотя бы в принципиальном смысле написать алгоритм мышления? Детерминированный, для простоты. Не на практике, а вообще может такой алгоритм существовать? Гипотетически? Другими словами, нет ли в решении этой задачи чего-то принципиально противоречивого? Как вы считаете?
Я понимаю разницу между открытыми и закрытыми системами. Я не понимаю, почему Вы решили, что вычислительные системы не обмениваются веществом с окружением.
По-вашему, получается, что все реальные системы открытые. И это действительно так, потому что пустоты нигде нет. Даже среди звёзд гонит пыль солнечный ветер, волнами ходит гравитация, разбивая планеты на метеориты. И всё это потом куда-нибудь падает, в том числе нам на голову. Не говоря уже о том, что ничего закрытого не найти на самой Земле. Только тогда какой смысл разделения? Поэтому открытые системы - это не просто на которые муха села, а те, которые не существуют без постоянного обмена со средой. Вот как ячейки Бенара. Интересны эти системы вот этим:
Цитата:
Термодинамические открытые системы активно взаимодействуют с внешней средой, причем наблюдатель прослеживает это взаимодействие не полностью, оно характеризуется высокой неопределённостью. При определённых условиях такая открытая система может достигать стационарного состояния, в котором её структура или важнейшие структурные характеристики остаются постоянными, в то время как система осуществляет со средой обмен веществом, информацией или энергией - этот процесс называется гомеостазом. Открытые системы в процессе взаимодействия со средой могут достигать так называемого эквифинального состояния, то есть состояния, определяющегося лишь собственной структурой системы и не зависящего от начального состояния среды. Такие открытые системы могут сохранять высокий уровень организованности и развиваться в сторону увеличения порядка и сложности, что является одной из наиболее важных особенностей процессов самоорганизации.
Открытые системы (физика). Википедия
Вот это про жизнь. Но не про вычислительные системы. Более точно, жизнь - это не просто открытые системы, а открытые термодинамически неравновесные системы, или диссипативные (по Пригожину). Обратите внимание на цитату из второго начала выше - в уточнении сравнение идёт не просто с открытыми системами, а именно с диссипативными. Плюс неравновесное состояние - это тоже то, чего нет у компьютеров, а для жизни это сверхважно.
Пока не может. Но стоит только прикрутить ему руки/ноги для самостоятельной добычи вещества для поддержания своего гомеостаза - так сразу сможет:) При наличии самого ИИ эта задача уже из разряда инженерных, абсолютно точно не нерешаемых.
Руки/ноги - не просто "для" поддержания гомеостаза, они элемент гомеостаза. Вся внутренняя, структурная и функциональная организация гомеостатической системы способствует сохранению баланса. Поэтому если перестать дышать, то руки/ноги точно так же необратимо устремятся к равновесию, распадаясь на отдельные элементы и растворяясь в среде. Прочитайте предыдущий пост, там есть сравнение нас с ячейками Бенара. Из него понятно, что организм поддерживает гомеостаз как одно целое.
Посадите вместо клетки высокопроизводительный процессор, сделайте "доску" оч. большой и принципиальность окажется под вопросом.
Я написал, почему. Опровергните аргументы, которые в цитате в предыдущем посте. В клеточном автомате всё вычислимо, в реальном мире нет. Поэтому за рамки упрощённого подобия реальных явлений никакой автомат никогда не выйдет.
Электрончики из блока питания по транзисторам в микросхемах разбегаются. Этого мало?
Этого мало. Кофе, пролитого на компьютер, тоже мало. Даже чешуек кожи с рук сборщика, погладившего любимый транзистор, или частички души программиста, которую он вложил в эту кофемолку, тоже недостаточно. Уберите электрончики и ничего не изменится. Хоть в космос запускайте ноутбук, ничего с ним не будет. Теперь сравните с ячейками Бенара или человеком. Попробуйте хотя бы ограничить их обмен со средой. Они взвоют.