Еще раз про сильный ИИ

[Doctor Boom]

mihaild в сообщении #1572092 писал(а):

Т.е. под "развитием" вы понимали конкретно плотность транзисторов?

Ну в частности, да

mihaild в сообщении #1572092 писал(а):

Если да, то это уже минимум второй раз, когда вы используете термин, традиционно имеющий крайне мутное значение, в каком-то строгом, но не похожим на общепринятый, смысле.

Мне просто не понятно, с чего вы заговорили о логарифмическом масштабе времени, и в следующем посте тут же написали, что линейный естественней

mihaild в сообщении #1572092 писал(а):

Можете, пожалуйста, найти какое-то другое слово для этого? Экспонента это конкретная функция (ну точнее это большой набор функций, на самых разных пространствах, но всё-таки довольно четко определенная вещь).

Ок, можно сказать в образном смысле, очень многие мат.понятия могут использоваться для качественного описания каких-то ситуаций, хотя формализовать их в данном случае сложно.

mihaild в сообщении #1572092 писал(а):

Если его по определению найти невозможно, то вопрос о его существовании смысла не имеет.

Почему?
А насчет квалиа, то каждый его может наблюдать лично, даже если принять (как вариант), что другим рассказать не может. И даже в таком случае мне не ясно, почему

mihaild в сообщении #1572084 писал(а):

И это легко продемонстрировать: вы не можете дать никакого предсказания, зависящего от ответа на него

?
То сначала найти надо, то теперь при нахождении уже предсказание надо

mihaild в сообщении #1572092 писал(а):

По определению же.

Я ждал, что вы ответите в таком духе, вот только это, увы, не ответ

[Dicson]

Mihaylo в сообщении #1572007 писал(а):

Да, я прочитал ваше. Вы так уверенно думаете, что нейросеть - это когда человек сам за нейросеть все изучает и потом вкладывает в нее свои знания,

Вы знаете, я однажды тоже что-то чьё-то прочитал. Прочитал. Но не понял.

Вот вы тоже прочитали, но идеи, которые вы приписываете мне, не имеют отношения к тому, что у меня написано. Отбор, а не "вкладывания знаний". Вот, что важно. При одновременном непонимании себя.

Mihaylo в сообщении #1572007 писал(а):

Цели очень простые бывают. Сложность формулировки цели не так велика как задача, которая решается. Например,

Не надо ничего формулировать, если не хотите. Обучайте и всё. Отбор и рост неопределённости всё равно не отменить (см. ещё раз то, что прочитали).

mihaild в сообщении #1572033 писал(а):

Dicson, поскольку ваши несколько страниц текста не содержат упоминания Джеффа Дина, то они ничего не обосновывают про его мнение. А я предупреждал

Там в тексте его дух. Это больше, чем просто имя. И этот дух со мной согласен. Ведь алогичность Джеффу Дину не присуща вроде. Впрочем, я знаю его плохо, может, в чём-то и ошибаюсь. Поправьте меня, если я неправ.

mihaild в сообщении #1572033 писал(а):

А прочность мостов тоже надо в уме рассчитывать, или калькулятором можно пользоваться? Вот фреймворки для обучения нейронных сетей - это такой же калькулятор, только немного более сложный. Сергей Марков на вопрос, что он думает про регулирование ИИ, сказал: "Идея хорошая. А что именно вы предлагаете регулировать - перемножение матриц или нелинейные функции?"

Что доказывает это аргумент? Против чего он? Или за что? Я сразу не понял, зачем вы упомянули возможность что-то высчитывать в нейронных сетях в уме, но теперь уже окончательно утерял нить.

mihaild в сообщении #1572033 писал(а):

из эмуляции очистки крови очень сложно получить те результаты, которые мы хотим получить от очистки крови. От эмуляции мышления очень легко получить те результаты, которые мы хотим получить от мышления.

Это верно. Вопрос, в чём причина такой разницы? В том, что нейрон на входе получает, а на выходе генерирует нервные импульсы. То есть, в отличие от печени, в организм вместо нервной системы можно вставлять программную эмуляцию работы нейрона, лишь бы на входе она принимала импульсы, внутри правильно их обрабатывала, а на выходе выдавала. Но это упрощённый взгляд. В синапсах медиаторы, а реальные спайки являются континуальными колебательными процессами и отличаются периодом, амплитудой и формой фазового портрета, индивидуальными у каждого нейрона. И наконец в мышлении значение имеет и то, что происходит снаружи нейрона, а там тоже много чего есть.

Например, в комплексе все эти неучтённые факторы приводят к тому, что нейронная сеть мозга - это постоянно трансформирующаяся система, где все нейроны индивидуальны. Поэтому модель нейрона как обобщение всего множества реальных нейронов - это как обобщённый кирпич для строительства дома, который столь сложен, что все кирпичи в нём индивидуальные. Дом из обобщённых кирпичей получится настолько же проще, насколько они подверглись упрощению.

Но в целом всё действительно сводится к тому, насколько точно можно описать мозг или насколько можно заменить "качество сложности" биологических нейронов "количеством простоты" искусственных. А это приводит нас или к термодинамике (так как живое - это открытые термодинамически неравновесные системы, а мозг особенно), или к моим аргументам. И конец.

mihaild в сообщении #1572033 писал(а):

меня интересует, сможет ли она доказать гипотезу Римана, предсказать курсы бумаг на бирже, и разработать схему термоядерного реактора и вакцину от ВИЧ. Т.е. важно, какие задачи умеет решать модель, а что у неё внутри - неважно (и вообще рассуждать о том, что "знает" система, не похожая на человека, как правило некорректно).

Да, что внутри неважно, и неизвестно, какие там у неё знания. Главное результат. Но мы её создаём, создаём для себя и мы оцениваем результаты её работы. И вот на этом уровне уже становится важно, что она знает. Нет ли там чего лишнего. Но на самом деле не только это. Дело ведь совсем не просто в возможной опасности знаний системы, а ещё и в том, что чем сложнее система, тем сложнее её вообще как-либо оценить. Стратегические решения, варианты обучения, применения и т. д., всё растёт.

mihaild в сообщении #1572033 писал(а):

Насколько я помню уроки биологии, в создании людей интеллект человека тоже участвует. Так что ваш аргумент доказывает, что человечества не существует.

По-вашему, проблема уже решена, СИИ у нас уже есть? И мы его сами же и создаём? Но нет, СИИ нет. Мы только пытаемся его создать. Человек не СИИ, поэтому несуществование человека из моих аргументов никак не следует. Что касается уроков биологии, то что-то не то вам про "создание" людей объясняли, видимо. В более развёрнутом изложении у меня есть такой абзац:

Цитата:

На полях заметим, утверждение, что люди «умеют» создавать себе подобных — неверно. Мы лишь запускаем программу морфогенеза, написанную природой за миллиарды лет эволюции, «нажимаем на кнопку» — «умеем» давать начало процессам рождения нового человека, точной сути которых не понимаем. Ничего из этого умения нельзя назвать «созданием», которое подразумевает целенаправленную интеллектуальную деятельность, последовательность шагов решения задачи. И, как показано в предыдущей главе, когда дело касается действительно «создания», возникают проблемы.

Другими словами, в создании себе подобных, наоборот, нет интеллектуальной составляющей. Если же вы имеете в виду обучение детей (хотя это не предмет биологии), то они уже сильный И. Сами по себе, по результатам морфогенеза (суть которого известна, и ничего от работы искусственных систем в нём нет). Вопрос только в том, дадим ли мы этому И соответствующие его уровню знания.

Но в создании СИИ морфогенез нам не помогает, у нас есть только некие общие соображения о работе мозга. Вот и приходиться в создании СИИ начинать практически с нуля. И итог этих начинаний теперь известен.

mihaild в сообщении #1572033 писал(а):

Ну и еще совершенно непонятно, как с вашей идеей согласуется то, что естественный отбор, для которого вообще понятия "знания" крайне размыто, сумел создать специализированный оптимизатор, который гораздо эффективнее самого отбора, как минимум в некоторых областях.

Мои аргументы пределы эволюции никак не ограничивают, и это как раз очевидно. Вот, например, ваша фраза "эффективнее самого отбора, как минимум в некоторых областях". Калькулятор эффективнее самого человека "как минимум в некоторых областях"? Если да, то так же и биосфера (в дальнейшем включая социум), где проходит эволюция человека, тоже намного сложнее человека. Поэтому эволюции создать человека (если рассматривать человека как отдельный, "создаваемый" ей, элемент биосферы) точно так же ничего особенно не мешает, как человеку ничего особенно не мешает создать калькулятор. Только время нужно, чтобы биосфера стала достаточно сложной, чтобы "создать" человека; и человек, его интеллект, точно так же должен стать достаточно сложным, чтобы создать калькулятор. И наконец биологические системы могут сами собой усложняться - обучаться, расти, эволюционировать. Но искусственные от них принципиально отличаются, поэтому если инфузория может со временем эволюционировать в человека и попадёт в Рай, то механизм/компьютер/ИНС просто сдохнет.

Doctor Boom в сообщении #1572065 писал(а):

Отбор идет в результате самоорганизации при общении между собой разный нейросетевых ансамблей при поступающей внешней информации. Ну классическое, машина посмотрела, как играет человек, научилась играть так же, машины начали играть между собой, и придумали новую интересную игру, которую человек понять не может.

До эволюции здесь бесконечность. "Посмотрела - научилась - играть - придумали" - это пока чистая фантастика. Возможность эволюции обусловлена тем, что биологические системы - это открытые термодинамически неравновесные системы, а машины/компьютеры равновесные. Разница принципиальная, поэтому их самостоятельная обучение/эволюция качественно ограничена. Если говорить наглядно, то машинам всё равно, живы они или нет (гулите гомеостаз). То есть у них нет встроенного ещё на физическом уровне активного стремления к самосохранению (и размножению), которое придаёт начальный смысл всем действиям человека, позволяет на этой основе отделять разумное от не разумного, опасное от полезного, ложь от истины. Поэтому без помощи и контроля человека то, что вы описали выше, быстро скособочится в неадекват и заглохнет само собой.

Doctor Boom в сообщении #1572065 писал(а):

А зачем нам ставить программу в организм? Организм тоже будет программой, ну или надо интерфейс сделать.

Невозможно по тем же причинам, что и выше. Виртуальная реальность - это программа, а биологические системы - это открытые термодинамически неравновесные системы. Ограниченная точность моделирования таких систем не позволит выразить их поведение в программе адекватно его реальной сложности.

[Mihaylo]

Dicson

Dicson в сообщении #1571082 писал(а):

По-моему, очевидно, что предел сложности создаваемых нами систем должен быть.

Предел сложности ограничен, в частности, причинами экономического характера. Например, мы не полетим на Плутон. Поэтому согласимся с вами, что некоторые рамки существуют. Но чаще они имеют экономическую первопричину. Именно поэтому наши железные птицы гораздо лучше биологических птиц с перьями приспособлены для транспортировки, но не всегда.
Мы будем всегда стремиться создать ИИ, который почти как человек и научно-технических преград тут особо нет.

[mihaild]

Doctor Boom в сообщении #1572096 писал(а):

Ок, можно сказать в образном смысле, очень многие мат.понятия могут использоваться для качественного описания каких-то ситуаций, хотя формализовать их в данном случае сложно.

Вот я и говорил, что мне такое очень не нравится. Можно же сказать "быстро растет", но нет, нужно вворачивать термины туда, где им не место. Видимо, философы любят не только скрыто подменять общепринятые значения обычных слов какими-то своими странными определениями, но и подменять значения стандартных терминов чем-то размытым:)
(это не к вам лично претензия, просто фраза "развитие экспоненциально" мне очень сильно не нравится)

Doctor Boom в сообщении #1572096 писал(а):

А насчет квалиа, то каждый его может наблюдать лично, даже если принять (как вариант), что другим рассказать не может.

А еще каждый может наблюдать миражи в пустыне, а если [заблокировано роскомнадзором] - то и с Цезарем лично пообщаться. И даже рассказать об этом другим.

Doctor Boom в сообщении #1572096 писал(а):

То сначала найти надо, то теперь при нахождении уже предсказание надо

А это одно и то же.

Doctor Boom в сообщении #1572096 писал(а):

Я ждал, что вы ответите в таком духе, вот только это, увы, не ответ

А по-моему, ответ. Ну т.е. конечно можно дальше идти в нейронауку и разбираться, что именно происходит с нейронами, но на менее детальном уровне - каждому ощущению соответствует какое-то состояние, значит ощущению красного цвета должно соответствовать какое-то состояние, почему бы и не вот это?
Примерно как "почему цвет с длиной волны 700нм называют красным"? Ну потому что как-то его назвать должны, почему бы и не так? Хотя лингвисты, наверное, могут проследить происхождение этого слова и дать более детальный ответ, но в любом случае рано или поздно упремся во что-то вида "это могло бы реализоваться многими вариантами, вот один из них и реализовался".

Кажется вот это ключевое

Dicson в сообщении #1572103 писал(а):

Дело ведь совсем не просто в возможной опасности знаний системы, а ещё и в том, что чем сложнее система, тем сложнее её вообще как-либо оценить.

Естественный отбор, интересующийся только успешностью распространения генов, создал вид, сумевший добраться до Луны.
И я, конечно, надеюсь что $P = NP$, но пока что кажется, что оценить решение часто бывает проще, чем его найти. Разработчики AlphaGo проиграли бы Седолю всухую.

Остальное убираю под спойлер, оно вряд ли заслуживает внимательного прочтения.

(Оффтоп)

Dicson в сообщении #1572103 писал(а):

Там в тексте его дух.

И ссылок на его дух я тоже не увидел.

Dicson в сообщении #1572103 писал(а):

Что доказывает это аргумент?

Он доказывает, что "итеративное обучение нейронок" нельзя противопоставлять "сразу сделать готовую". Можно думать о нейронной сети как об алгоритме, который из обучающего датасета и тестового примера делает ответ на тестовый пример. То, что там внутри итеративный градиентный спуск - деталь реализации.

Dicson в сообщении #1572103 писал(а):

Вопрос, в чём причина такой разницы? В том, что нейрон на входе получает, а на выходе генерирует нервные импульсы. ... В синапсах медиаторы, а реальные спайки являются континуальными колебательными процессами и отличаются периодом, амплитудой и формой фазового портрета, индивидуальными у каждого нейрона. И наконец в мышлении значение имеет и то, что происходит снаружи нейрона, а там тоже много чего есть.

А я ничего не говорил про нейроны. И про то, как именно устроено мышление. Я говорил только про результат.
Поменять состав крови программе мешают законы физики. Про законы физики, не позволяющие программе сгенерировать доказательство гипотезе Римана, я не слышал, такие есть?

Dicson в сообщении #1572103 писал(а):

Если да, то так же и биосфера (в дальнейшем включая социум), где проходит эволюция человека, тоже намного сложнее человека.

Изначально Земля была очень простой структурой - расплавленный камень с подсветкой и летающим вокруг него камнем поменьше (или камень поменьше появился потом, я не знаю, какой тут консенсус и есть ли). На которой появилась гораздо более сложная структура.

Dicson в сообщении #1572103 писал(а):

а машины/компьютеры равновесные

У вас есть компьютер, работающий без внешнего источника энергии????

[DARIUS]

mihaild в сообщении #1572132 писал(а):

Doctor Boom в сообщении #1572096 писал(а):

Doctor Boom в сообщении #1572096 писал(а):

Я ждал, что вы ответите в таком духе, вот только это, увы, не ответ

А по-моему, ответ. Ну т.е. конечно можно дальше идти в нейронауку и разбираться, что именно происходит с нейронами, но на менее детальном уровне - каждому ощущению соответствует какое-то состояние, значит ощущению красного цвета должно соответствовать какое-то состояние, почему бы и не вот это?
Примерно как "почему цвет с длиной волны 700нм называют красным"? Ну потому что как-то его назвать должны, почему бы и не так? Хотя лингвисты, наверное, могут проследить происхождение этого слова и дать более детальный ответ, но в любом случае рано или поздно упремся во что-то вида "это могло бы реализоваться многими вариантами, вот один из них и реализовался".

Кажется вот это ключевое

Вы озвучили мысленный эксперимент философов сознания ,,Комната Марии" ,в споре между сторонниками и противниками физикализма было поломано много копий

[mihaild]

И еще момент к упомянутому выше: современные методы часто требуют меньше domain knowledge, чем старые. Статистический перевод с написанными руками правилами работал гораздо хуже, чем современные модели, которым достаточно большого вообще не размеченного корпуса, и небольшого количества параллельных текстов.

[Dicson]

mihaild в сообщении #1572150 писал(а):

И еще момент к упомянутому выше: современные методы часто требуют меньше domain knowledge, чем старые. Статистический перевод с написанными руками правилами работал гораздо хуже, чем современные модели, которым достаточно большого вообще не размеченного корпуса, и небольшого количества параллельных текстов.

То же можно сказать про современные ракеты. Но от скорости света они всё равно далеко.

mihaild в сообщении #1572132 писал(а):

И я, конечно, надеюсь что $P = NP$, но пока что кажется, что оценить решение часто бывает проще, чем его найти. Разработчики AlphaGo проиграли бы Седолю всухую.

Конечно, проще. Пока проще. Потому что AlphaGo далека от человека. Но по мере приближения к сложности человека, не только искать решения, но и их оценивать станет всё сложнее и сложнее. Вероятно, вы не обратили внимания, что я описываю определённую связь между сложностью систем и ростом неопределённости в их создании/оценке. Иначе мне появление таких примеров объяснить сложно.

mihaild в сообщении #1572132 писал(а):

Естественный отбор, интересующийся только успешностью распространения генов, создал вид, сумевший добраться до Луны.

Об отличии систем, к которым применим естественный отбор, от тех, к которым не применим, я написал ниже. К которым не применим, эволюционируют только в голове человека и не могут выйти за эти границы.

mihaild в сообщении #1572132 писал(а):

У вас есть компьютер, работающий без внешнего источника энергии?

Компьютер другая система. Приток электричества сам по себе значения не имеет, так как не приводит к уменьшению энтропии в компьютере. Энтропия компьютера только возрастает, поэтому со временем он всего лишь разрушится и постепенно растворится в среде, а не эволюционирует во что-то более сложное, как это могут биосфера в целом или инфузория в частности.

То же, что с компьютером, происходит с любым организмом, когда прекращается интенсивный обмен со средой: организм "падает" в состояние равновесия и растворятся в среде. И ещё можно обратить внимание на пару обстоятельств. Если первый организм не возникнет сразу, скачком, как уже работоспособное целое, то он растворится в среде так же, как в ней растворяется любой мёртвый организм. И усложняться в ходе эволюции организм тоже должен сразу более или менее весь, иначе новое не сможет адекватно взаимодействовать со старым. Эти свойства жизни могут показаться необычными, но они объяснимы, в целом понятны и в общем-то, наоборот, обычны, если только учесть, что необычность с точки зрения "последовательного" человеческого подхода к объяснениям чего-либо - это просто их такая физическая особенность.

В открытых термодинамически неравновесных системах при определённом (высоком) уровне интенсивности обмена со средой могут спонтанно, скачком возникать эффекты упорядочения. Они происходят как переход через точку бифуркации, поэтому их спонтанность (то есть высокая непредсказуемость), по-видимому, принципиальная, а чувствительность системы, соответственно, чрезвычайная (см. определение бифуркации). Поэтому на службу нам такие системы поставить будет сложно, так как стремление свести к минимуму флуктуации параметров системы посредством её равновесного состояния и независимости от среды - это именно те стремления, которые характеризуют создание искусственных систем. Нам нужны, по сути, "механические", равновесные процессы, чтобы их можно было целенаправленно и предсказуемо объединять в сложные системы.

Упорядочения - это явление самоорганизации, уменьшения энтропии, то есть второе начало в открытых системах не выполняется (хотя и не нарушается, так как упорядочение происходит за счёт рассеивания тепла наружу системы, поэтому такие системы ещё называют диссипативными). Как "обратная сторона" упорядочения возникает гомеостаз, как активное поддержание возникшего порядка, "активное стремление к самосохранению".

В организме эффекты такого типа самоорганизации везде - от внутриклеточной среды или морфогенеза до синхронизации изначально хаотической активности нейронов в мозге. См. например, реакции Белоусова - Жаботинского (основа морфогенеза, они создают разметку органа, на которую ориентируются делящиеся клетки, пример тут, их характеризует богатство возможных структур и дальний порядок), диссипативные системы (по Пригожину) или синхронизацию (нейробиология).

Цитата из Пригожина про реакции Б - Ж:

Цитата:

«Одной из наиболее интересных особенностей диссипативных структур является их когерентность. Система ведет себя как единое целое и как если бы она была вместилищем дальнодействующих сил. Несмотря на то что силы молекулярного взаимодействия являются короткодействующими (действуют на расстояниях порядка 10-8 см), система структурируется так, как если бы каждая молекула была «информирована» о состоянии системы в целом. (…) Столь высокая упорядоченность, основанная на согласованном поведении миллиардов молекул, кажется неправдоподобной и, если бы химические часы нельзя было бы наблюдать «во плоти», вряд ли кто-нибудь поверил, что такой процесс возможен. Для того чтобы одновременно изменить свой цвет, молекулы должны каким-то образом поддерживать связь между собой. Система должна вести себя как единое целое». (Порядок из хаоса. И. Пригожин, И. Стенгерс, 1986).

Можно возразить, что мембраны клеток или ДНК - это самосборка, то есть сами по себе это не открытые термодинамически неравновесные системы. Действительно, за счёт их относительной стабильности создаётся основание для активной внутриклеточной среды, морфогенеза и сохранности наследственной информации. Однако и в самосборке вряд ли что-то можно к компьютерам приспособить. К примеру, мембраны (суть липосомы) могут сами собой делиться и срастаться после повреждений, то есть это тоже не вполне "стабильные" предсказуемые структуры.

В результате в эволюции человека, как открытой системы, участвует вся окружающая его среда во всей своей сложности, а в эволюции ИИ только человек, знания которого о среде и о себе ограничены. В итоге то, что и должно быть.

[mihaild]

Dicson в сообщении #1572228 писал(а):

То же можно сказать про современные ракеты. Но от скорости света они всё равно далеко.

СТО и философские рукомашества - сильно разные вещи. Для скорости вычислений есть физические пределы, но они настолько велики, что значения для практики не имеют.

Dicson в сообщении #1572228 писал(а):

К которым не применим, эволюционируют только в голове человека и не могут выйти за эти границы.

Вам осталось всего лишь показать, что
1) понятие эволюции применимо к произвольному созданию оптимизаторов
2) утверждение "эволюция ИИ происходит в голове человека":
2.1) имеет какой-то смысл
2.2) верно
2.3) всегда будет верно
3) эволюция "в голове" более слабого оптимизатора не может привести к созданию более сильного

Ну и кстати про оценку - я легко могу оценить, что Каспаров играет в шахматы лучше знакомого КМС, хотя они оба играют гораздо лучше, чем я.

[Programma_Boinc]

Rasool в сообщении #1571248 писал(а):

mihaild в сообщении #1571089 писал(а):

Dicson в сообщении #1571082 писал(а):

"Полноценный ИИ" (то есть, видимо, "сильный") не может быть создан в любом случае

Можете сформулировать конкретнее - какая например интеллектуальная задача, решаемая человеком, не будет решена машиной никогда? (могу даже упростить вопрос: не будет решена машиной к 2040 году?)

А если тупо скопировать человеческий мозг в "железо"? Сейчас технологии не позволяют это сделать, но в будущем-то (пусть и отдаленном) наверняка смогут.

Вот и весь вопрос когда это будущее настанет ни кто не знает...

[Mihaylo]

Нет смысла спорить, когда оппонент слишком много предполагает, и если ему кажется, что "да, это несомненно так, это ж с молоком матери впитано". Кстати говоря, иллюзия относительно сложности программирования присутствует только у программистов. Хотя есть более сложная деятельность - научная деятельность, например. Но на мой взгляд, учёные меньше подвержены иллюзии, ибо они видят разницу в сложности и ещё потому, что поумнее чуть-чуть и склонны более критично мыслить. И ещё: учёные отрицают философию как науку - по тем же причинам.

Вот и получается следующая картина: несмотря на то, что у человека высшее образование, он склонен заблуждаться, верить в чудеса (например, в сильный интеллект).

Однако реальный мир развивается по законам другим и ограничения в нем другие, и обусловлены другими причинами.

[Doctor Boom]

mihaild в сообщении #1572132 писал(а):

Вот я и говорил, что мне такое очень не нравится. Можно же сказать "быстро растет", но нет, нужно вворачивать термины туда, где им не место.

Просто ускорение роста зависит от текущей позиции, а это похоже на экспоненту. Т.е. это ее мягкая мат. модель, по Арнольду будет $y'=f(y, \varepsilon)y$

mihaild в сообщении #1572132 писал(а):

А еще каждый может наблюдать миражи в пустыне, а если [заблокировано роскомнадзором] - то и с Цезарем лично пообщаться. И даже рассказать об этом другим

Ну да, и что? Это объективно существующие вещи в их субъективной реальности

mihaild в сообщении #1572132 писал(а):

А это одно и то же

В данном случае нет. Но даже если принять, что, мне кажется вы не разделяете принципиальную нефальсифицируемость (бессмысленность в вашем понимании) от текущей технической, т.е. кажущейся. Из чего следует, что если какие-то вещи при первом рассмотрении кажутся непроверяемыми, то надо попытаться их проверить, или допустить такую возможность в будущем, вы же просто зарубаете идею на корню, это непродуктивно.
Например идею, что "кто-то может видеть синий иначе, чем мы".

mihaild в сообщении #1572132 писал(а):

А по-моему, ответ

Да, но только под определенным углом

mihaild в сообщении #1572132 писал(а):

Ну т.е. конечно можно дальше идти в нейронауку и разбираться, что именно происходит с нейронами

Ну вот это и надо делать, а не называть какие-то вопросы бесмысслеными

mihaild в сообщении #1572132 писал(а):

Примерно как "почему цвет с длиной волны 700нм называют красным"? Ну потому что как-то его назвать должны, почему бы и не так? Хотя лингвисты, наверное, могут проследить происхождение этого слова и дать более детальный ответ, но в любом случае рано или поздно упремся во что-то вида "это могло бы реализоваться многими вариантами, вот один из них и реализовался".

Это немного другой вопрос, и он не тождественен нашему, вы сами написали, почему. Потому что цвет с длиной могли назвать и не красным, т.е. это в каком-то смысле случайность. А вот работа нейронного ансамбля, которая производит у нас ощущение красного цвета, не могла бы теоретически произвести другого ощущения просто по определению, это было бы неполнотой физикализма.

-- 02.12.2022, 16:21 --

Dicson в сообщении #1572103 писал(а):

До эволюции здесь бесконечность.

Она уже есть

Dicson в сообщении #1572103 писал(а):

"Посмотрела - научилась - играть - придумали" - это пока чистая фантастика

Погуглите самообучение

Dicson в сообщении #1572103 писал(а):

Возможность эволюции обусловлена тем, что биологические системы - это открытые термодинамически неравновесные системы, а машины/компьютеры равновесные.

Машины тоже открытие, т.к. получают инфу из окружения и других машин. Да и вообще, любая подсистема закрытой системы открыта, а все эти разговоры про термодинамику в контексте возникновения жизни чистая спекуляция

Dicson в сообщении #1572103 писал(а):

Невозможно по тем же причинам, что и выше. Виртуальная реальность - это программа, а биологические системы - это открытые термодинамически неравновесные системы. Ограниченная точность моделирования таких систем не позволит выразить их поведение в программе адекватно его реальной сложности.

Термодинамика тут вообще не причем, она работает с термодинамическими, а не биологическими система (к которым понятие термодинамической энтропии не применимо вообще). И что мешает программу рассматривать как открытую систему? Она получает инфу от внешнего мира

[mihaild]

Doctor Boom в сообщении #1572315 писал(а):

Просто ускорение роста зависит от текущей позиции, а это похоже на экспоненту.

А так же на абсолютно любую монотонную функцию, кроме многочлена степени не выше второй.
Но мне не нравится то, что вообще непонятно, что такое $y$. А даже мягкие модели по Арнольду всё же требуют определить, о каких числах мы говорим, мягкость их заключается только в том, что диффур слегка шевелим.

Doctor Boom в сообщении #1572315 писал(а):

Это объективно существующие вещи в их субъективной реальности

Мне нравится выражение "объективно существовать в субъективной реальности". А что оно значит?

Doctor Boom в сообщении #1572315 писал(а):

Но даже если принять, что, мне кажется вы не разделяете принципиальную нефальсифицируемость (бессмысленность в вашем понимании) от текущей технической, т.е. кажущейся.

Как раз разделяю. Штуки типа "в километре под поверхностью Марса лежит зарядка от айфона" я считаю фальсифицируемыми.

Doctor Boom в сообщении #1572315 писал(а):

Из чего следует, что если какие-то вещи при первом рассмотрении кажутся непроверяемыми, то надо попытаться их проверить, или допустить такую возможность в будущем, вы же просто зарубаете идею на корню, это непродуктивно.

Я выношу способ проверки в определении вещи. Т.е. определение вещи это ровно какой-то мыслимый способ её проверки. А уже после этого можно думать, как нам приблизить эту проверку. Условно нас интересует наличие кислорода на экзопланете, мыслимый способ проверки - слетать туда и посмотреть. После этого можно начинать думать, а как предсказать результат такой проверки, хотя бы приблизительно.

Doctor Boom в сообщении #1572315 писал(а):

Ну вот это и надо делать, а не называть какие-то вопросы бесмысслеными

Так Чалмерс уже заранее объявил, что никакого квалиа нейронауки никогда не найдут, потому что они занимаются только атомами, а философский зомби на атомарном уровне совпадает с человеком.

Doctor Boom в сообщении #1572315 писал(а):

А вот работа нейронного ансамбля, которая производит у нас ощущение красного цвета, не могла бы теоретически произвести другого ощущения просто по определению

Тут вопрос в том, что считается "таким" и "другим" ощущением.

Doctor Boom в сообщении #1572315 писал(а):

Да и вообще, любая подсистема закрытой системы открыта

Следствие: существует не более одной закрытой системы:)

[Doctor Boom]

Mihaylo в сообщении #1572275 писал(а):

Хотя есть более сложная деятельность - научная деятельность, например.

Ага, корчеватель

Mihaylo в сообщении #1572275 писал(а):

склонны более критично мыслить

Это вы о своем непробиваемом скепсисе к сильному ИИ?

Mihaylo в сообщении #1572000 писал(а):

Сильного интеллекта в природе не существует

Существует, человеческий

Mihaylo в сообщении #1572000 писал(а):

может существовать несозданный (пока еще) слабый интеллект, который реализует ожидания от него. А чтобы ожидания оправдывались, надо собирать входные данные для обучения (ака датасеты) - это основная сложность.

Не только. Я бы тут ввел ослабленный вариант философского зомби - когда система себя ведет (в определенном приближении) внешне так, как человек, но при этом не имеет тех внутренних состояний (или то, с чем их можно ассоциировать), что человек. Тривиальный пример - кукла, которая орет, когда ее дергают за нитку, или голосовой помощник Алиса. И это не значит, что задача нерешаема, она просто сложна, и скорее всего решаема.

Mihaylo в сообщении #1572000 писал(а):

Нет такого механизма разработки: ставится неопределенная задача (формулируется не до конца или не формулируется вовсе), собираются хоть какие-то данные, гиперпараметры, модель, эксплуатация... Нет такого.

Достаточно сложная нейросеть сама может поставить задачу

Mihaylo в сообщении #1572275 писал(а):

И ещё: учёные отрицают философию как науку - по тем же причинам.

Это какие ученые, и какую философию? Философия не наука, но это не значит, что тривиальна или бесполезна. Вспомнил, как наш препод по философии Васюков любил рассказывать:"Один известный ученый ответил на заданный вопрос, что это "философский вопрос", а ему в ответ "А мы думали, что вы ученый достаточно высокого уровня, чтобы отвечать и на философские вопросы вашей науки""

Mihaylo в сообщении #1572275 писал(а):

верить в чудеса (например, в сильный интеллект).

Будь реалистом, планируй чудо А сильный ИИ это чудо, а общепринятый термин среди специалистов по ИИ.

-- 02.12.2022, 17:20 --

DARIUS в сообщении #1572147 писал(а):

Вы озвучили мысленный эксперимент философов сознания ,,Комната Марии" ,в споре между сторонниками и противниками физикализма было поломано много копий

Я кстати допускаю вполне физикалистическое решения, что для полного ответа на вопрос, что такое видеть красный цвет робоМэри нужно будет миллион слов какого-то определенного языка (ну и иметь соответствующий мозг определенной сложности для понимания). Просто один мой собеседник вообще считает вопрос бессмысленным, а второй готов считать робоМэри светодиод

[Mihaylo]

Doctor Boom в сообщении #1572330 писал(а):

Существует, человеческий

Человеческий интеллект слабый. Человеку можно сказать: "А тебе слабо сделать также?". И тот не сможет. И не смогут почти многие из человечества.
Причина парадокса в том, что никакие в мире интеллекты не умеют достигать любой поставленной цели.
Но есть люди (датасаентисты), которые могут попробовать научить некую машину некоей задаче. И мы это видим воочию.

Doctor Boom в сообщении #1572330 писал(а):

Вспомнил, как наш препод по философии Васюков любил рассказывать:"Один известный ученый ответил на заданный вопрос, что это "философский вопрос", а ему в ответ "А мы думали, что вы ученый достаточно высокого уровня, чтобы отвечать и на философские вопросы вашей науки""

Философы знают, что есть люди, которые не воспринимают философию, поэтому пудрят мозги молодым студентам.

Doctor Boom в сообщении #1572330 писал(а):

А сильный ИИ это чудо, а общепринятый термин среди специалистов по ИИ.

Специалисты по ИИ - это трэш какой-то. Специалистов по ИИ ровно столько же сколько обдолбанных создателей теорий ИИ на форумах.

[Dicson]

mihaild в сообщении #1572266 писал(а):

Вам осталось всего лишь показать, что

По-моему, я достаточно показал. Мне кажется, ответ на ваши вопросы приведёт только к повторению уже пройденного. Может быть, в контексте других обстоятельств появится возможность сказать что-то новое.

Mihaylo в сообщении #1572275 писал(а):

И ещё: учёные отрицают философию как науку - по тем же причинам.

Как известно, из лжи следует что угодно - и правда тоже. И вам удалось это наглядно продемонстрировать. Ведь философия - это действительно не наука. Наука - это наука, а философия - это философия. С "причинами" только промахнулись. Ну, и вообще.

Doctor Boom в сообщении #1572315 писал(а):

Термодинамика тут вообще не причем, она работает с термодинамическими, а не биологическими система (к которым понятие термодинамической энтропии не применимо вообще).

Есть те, кто считает иначе.

Цитата:

Второе начало термодинамики (в формулировке неубывания энтропии) иногда используется критиками эволюционной теории с целью показать, что развитие природы в сторону усложнения невозможно[49][50]. Однако подобное применение физического закона является некорректным, так как энтропия не убывает только в замкнутых системах (сравн. с диссипативной системой), в то время как живые организмы и планета Земля в целом являются открытыми системами.

В процессе жизнедеятельности живые организмы превращают энергию одного вида (электромагнитную солнечную, химическую) в энергию другого вида (тепловую), тем самым ускоряя суммарное увеличение энтропии Вселенной. Несмотря на «локальное» уменьшение энтропии путем «упорядоченных» процессов, происходит суммарное увеличение энтропии вселенной, а живые организмы являются в некотором роде катализаторами этого процесса. Таким образом, наблюдается выполнение второго закона термодинамики и нет никакого парадокса возникновения и существования живых организмов вопреки глобальной тенденции вселенной к увеличению «беспорядка».

Второе начало термодинамики и критика эволюционизма - Википедия

Цитата:

The systems of reactions in any cell are self-catalyzing but not simply self-organizing as they are thermodynamically open systems relying on a continuous input of energy. ...

The evolution of order in living systems and the generation of order in certain non-living systems was proposed to obey a common fundamental principal called “the Darwinian dynamic”[41] that was formulated by first considering how microscopic order is generated in simple non-biological systems that are far from thermodynamic equilibrium. Consideration was then extended to short, replicating RNA molecules assumed to be similar to the earliest forms of life in the RNA world. It was shown that the underlying order-generating processes of self-organization in the non-biological systems and in replicating RNA are basically similar.

Self-organization - Biology - Wikipedia