Непонятно, какое они имеют отношение к аргументации о невозможности сильного ИИ.
Простые ответы на эти вопросы - вот такие, которые вы привели - должны интуитивно настораживать своей противоречивостью. Если вы этой противоречивости не чувствуете, то что ж. Получается, вы видите перед собой очевидную химеру, но вам даже не приходит в голову подумать о том, не фантастическая ли она. Вас не смущает идея, что человек возьмёт да и создаст что-то сложнее себя. Как, откуда, с чего? У вас вопросов на этот счёт, видимо, не возникло, а у меня возникли.
Почему Вы так решили?
Подавляющее большинство встречающихся в природе систем находятся вдали от термодинамического равновесия, при этом линейная неравновесная термодинамика является простым частным случаем нелинейной неравновесной термодинамики.
А почему нет, в чем претензия к обучению? Какие другие варианты?
К обучению претензий нет. Вопрос, почему потребовалось машинное обучение? Зачем нам искусственные нейронные сети? Видимо, не от хорошей жизни? Что-то в прежних алгоритмах перестало нас удовлетворять, и выход был найден в сетях. Но ведь нейронные сети - это тоже решение, имеющее свои проблемы, верно? Осталось найти тот предел, где рост этих проблем сделает бесполезными и нейронные сети тоже, а также показать, что иных, лучших, решений не может быть в принципе. Найти этот предел несложно, он находится ниже сложности интеллекта человека. В итоге сети сложнее мозга не станут, иных решений нет, ЕИ рулит.
Вы же сейчас наверняка думаете, что ничего не может нам помешать делать сети сложнее и сложнее. Но нет, не всё так просто.
По каким параметрам? Открытости/закрытости? Так это Вы придумали, и никак не обосновали. В термодинамическом смысле, вычислительные системы такие же открытые, как и биологические.
Открытые системы обмениваются с окружающей средой веществом и энергией, закрытые - теплом и энергией, но не веществом. В этом разница. Обратите внимание, что без обмена со средой веществом (кислород, пища), организм быстро и необратимо устремится в состояние равновесия, покоя и беспорядка, распадаясь на элементы и растворяясь в среде. Важность открытости в этом:
Цитата:
Гомеостаз - саморегуляция, способность открытой системы сохранять постоянство своего внутреннего состояния посредством скоординированных реакций, направленных на поддержание динамического равновесия. Стремление системы воспроизводить себя, восстанавливать утраченное равновесие, преодолевать сопротивление внешней среды.
Википедия
Гомеостаз - это критерий, который позволяет отделять адекватное среде знание от не адекватного (см. ниже в других ответах). У ИИ гомеостаза нет, поэтому без нас он сколько-нибудь долго самостоятельно развиваться не сможет. Так как всех возможных путей развития много больше, чем адекватных, то очень скоро будет выбран один из неадекватных и начнётся деградация (суждения станут превращаться в бредогенерацию, поведение в беспорядочное) и далее обычный конец, как у любого сломавшегося механизма. Как следствие, развивать ИИ можем только мы сами, а так как за пределы сложности своего опыта мы выйти не можем, то и системы, которые развиваем мы, всегда будут оставаться в пределах сложности нашего собственного интеллекта.
Почему мы не можем выйти за пределы своего опыта, насколько не можем и как это будет выглядеть на практике, на этот счёт есть свои аргументы. В целом они говорят о том, что чем полнее работу системы определяет написанный человеком алгоритм, тем ниже будет её сложность по сравнению с интеллектом самого человека.
1. Про какую статичность чат-ботов вы говорите? Представьте себе, вы скормили нейросети новый текст, который она ранее не видела. Например, это будет что-то научное в области химии. Нейросеть доучится, и это будет нестатика! Более того, благодаря zeroshot-, oneshot-, fewshot-обучению чат-боты обучаются на лету в процессе диалога.
Вы какой тезис опровергаете? Что чат-боты не обучаются? Я такого тезиса не выдвигал.
2. Второй момент: текстов миллиарды-триллиарды, о какой простоте модели вы опять говорите? Модель очень сложная, содержит квинтиллионы весов!
Видите ли, нельзя рассуждать "с лёгкой руки", надо делать это вдумчиво, ибо в области ИИ и мозга бытовые стереотипы мощны и крайне сильно искажают представления...
Квинтиллионы? А это не мало? Может, кваттуортригинтиллионы? Это было бы достойно.
Дело не в сложности модели - она много проще мозга, но это неважно, так как дело в другом. В этом: "Поэтому когда мы вытаскиваем слова из нашего опыта и, минуя весь остальной опыт, соединяем их между собой только на основании вероятности их появления в наших текстах, то, получается, что мы весь остальной огромный массив нашего опыта, связывающего слова как с реальностью, так и между собой, упрощаем до этой вероятности."
Поэтому на каком бы количестве текстов вы модель ни обучили, её здравый смысл и адекватность всё равно будет оставаться далеко от нашего. Просто знать модель будет больше, её кругозор будет шире. Но у ИИ без здравого смысла и адекватности границы применимости очень узкие, даже несмотря на кругозор. Если за чат-ботом всё нужно перепроверять, а кроме вторичных суждений всё равно ожидать нечего, то всё это быстро приестся. Усилить ИИ качественно новым опытом сложно, а ситуацию всё равно принципиально не изменит. В итоге это приведёт к тому, что инвестиции в ИИ усохнут. Останутся только специализированные системы.
Вы так и не объяснили зачем знание своей повседневной реальность требуется человеку, который читает книги. Я вижу лишь абстрактные рассуждения а-ля "опыт нужен, потому что без него никак".
Объяснил. Потому что слова сами по себе не имеют смысла. Их смысл вы понимаете только в контексте всего остального опыта. Связь слов со всем остальным опытом настолько глубокая и всеобъемлющая, что вы её просто не замечаете.
Вообще наш спор имел смысл хотя бы год назад - современные чат-боты категорически вас опровергают. Ведь они без всякого опыта анализируют тексты на уровне интеллектуального и эрудированного человека. Как так? А ведь года не прошло со времени их релиза.
Как раз "современные чат-боты" и подтверждают то, что я пишу.
Пример просто убойный, потому что ТО и тем более квантовая физика интуитивному опыту противоречат.
Откуда у вас "интуитивный" опыт? Всё-таки из наблюдений, получается? И то, что привычным наблюдениям не соответствует, то и кажется вам необычным, верно? Но ТО и КМ тоже следуют из наблюдений - только на других масштабах. На привычных масштабах мир один, на других масштабах становится заметно то, что незаметно на привычных. В итоге, я и говорю, ваш пример не подходит, так как он прямо связан как раз с наблюдениями реального мира. То же самое с математикой, разве что математика - это очень глубоко абстрактная область знания. Тем не менее утрата связи с более наглядным и низкоуровневым опытом приводит к зубрёжке. Вот чат-боты такие идеальные зубрилы. Как следствие, вторичные суждения и спокойный уход в бредогенерацию.
Интересно порассуждать на тему этих критериев. Пока на ум приходит лишь сравнение с каким-то готовым результатом - с последующей подгонкой под него собственного результата и соответствующей настройкой.
Такой критерий приведёт к тому, что ИИ не выйдет за рамки опыта человека. А чтобы ИИ был не связан человеком, ему нужен критерий, который позволит ему развиваться самому, то есть так же как человек и вообще биологические системы. Суть этого критерия в том, что неадекватное среде поведение приводит к снижению энергоэффективности обмена со средой, и это поведение само собой нивелируется, а то, которое адекватно среде, наоборот, само собой развивается, так как энергоэффективность улучшает.
Это гомеостаз, см. выше, в чём он заключается. Вся внутренняя, структурная и функциональная организация гомеостатической системы способствует сохранению баланса. Но у ИИ гомеостаз невозможен, так как ИИ не открытая система. Для более точного понимания, в чём суть гомеостаза и почему он не для ИИ, см. пост цитаты ниже - там, где написано по ячейки Бенара. На самом общем масштабе, то есть на том, где наиболее хорошо заметны наши основные особенности как физической системы, мы и вообще любая жизнь - это ячейки Бенара.
В свою очередь, сказанное означает, что существование жизни прямо связано с интенсивным обменом со средой. В отсутствие гомеостаза (имея в виду, например, вычислительные системы, они не являются открытыми), поведение системы будет относительно меньше связано со средой, меньше зависеть он неё, меньше ей направляться и ей соответствовать, то есть будет относительно более грубым. Как следствие, развитие такой системы быстро станет неадекватно среде и система будет средой разрушена. Поэтому, например, сколько-нибудь длительная самостоятельная эволюция вычислительных систем, будь то самостоятельное обучение или иное развитие, невозможна.
Эта закрытость (допустим, что она действительно сейчас существует, хотя и это вовсе не очевидно) - это принципиальное ограничение у вычислительных систем какое-то что-ли? Никак нельзя их открытыми по вашему сделать, что бы это ни значило?
Прочитайте про открытость и ячейки Бенара выше. Что из себя представляют ячейки Бенара? Активность, неравновесность, непостоянство, необратимость, постоянный обмен со средой, неотделимость от среды. Так вот они самый лучший наглядный пример того, что такое жизнь. Например, я вам уже писал:
Если у ячейки Бенара вдруг появится какая-нибудь лишняя завитушка, то она тут же сама собой исчезнет, так как снижает эффективность обмена ячейки со средой. Или вся ячейка разрушится, если флуктуация зашла слишком далеко. Организм - это в целом такая же физическая система, как ячейки Бенара. Разница в том, что связь организма со средой менее прямая, более опосредованная. Тем не менее, будь то что-то лишнее в организме, неадекватность в поведении или некое противоречащее реальности конкретное знание - это всё тоже снижает эффективность обмена организма со средой, как и лишняя завитушка у ячеек Бенара. Поэтому всё лишнее быстро исчезает - в ходе эволюции, если речь идёт об организме или общем устройстве мозга, или в ходе жизни животного, если речь идёт о некоем конкретном ошибочном знании.
Как вы из компьютера что-то подобное сделаете? Никак. Жизнь и вычислительные системы - это принципиально разные системы.
Не понял, так ведь и мы "развалимся" без поддержания открытости( без притока свободной энергии и ее диссипации). Мы также не контролируем этот процесс(и, по-видимому, рано или поздно должны развалиться),
Я тоже не понял, что вы имеете в виду. Ячейки Бенара тоже "поддержание открытости" не контролируют. Они просто поддерживают гомеостаз. Почему они должны развалиться, если условия не меняются критично? Мы - это ровно те же ячейки Бенара, ничего нового, кроме сложности. Ячейки Бенара круглые и гомеостаз у них простой, а наша "архитектура" сложная и гомеостаз сложный, реализуемый в том числе посредством перемещения в среде (мозг переводит сигналы рецепторов в активность мышц - чувствительность в двигательную активность).
Кстати, клеточные автоматы со специальными правилами апдейта демонстрируют весьма нетривиальную "эволюцию"(в сети есть интересные программы), например, появление существ, пожирающих друг друга, их исчезновения, появление новых, образование трофических цепочек и т.п. Дальнейшей эволюции "мешают" только размеры "доски" и время апдейта.
Нет, не только "размеры "доски" и время апдейта". Клеточный автомат система принципиально более простая, чем реальный мир. Я уже писал об этом здесь:
Клеточный автомат - это пример простой системы, способной демонстрировать хаотическое поведение. Есть чувствительность к начальным условиям, могут возникать сложные структуры клеток, то есть даже некая самоорганизация есть. Как будто всё как в жизни. В то же время ничего "невычислимого" в клеточном автомате появиться в принципе не может, так как правила перехода - это, по сути, описание элементарного уровня материи "мира" клеточного автомата, из которого следует всё, что только в этом мире может быть, и нам эти правила известны, ведь мы сами их и сформулировали.
Исходя из того, что вы написали про нейронные сети, можно предположить, вы считаете, что сложность возникающих структур в клеточном автомате ограничена только доступными автомату вычислительными ресурсами. То есть человек может задать, например, такие правила, что при наличии достаточных вычислительных ресурсов в клеточном автомате в перспективе возникнет своя клеточная жизнь, не уступающая в сложности реальной.
Но в реальном мире элементарный уровень материи никаким языком описать нельзя. Поэтому на самом деле разница между мирами принципиальная. Вычислительные средства качественно проще реального мира, поэтому вычислительными средствами (то есть языком, алгоритмом) реальный мир в принципе выразить невозможно. ...
