Еще раз про сильный ИИ

[mihaild]

Dicson в сообщении #1573045 писал(а):

В одном случае флуктуации приводят к увеличению энтропии, а в другом - к её уменьшению

Так, чтобы это обсуждать, нужно, чтобы вы сказали, как вы считаете энтропию человека и компьютера.

Dicson в сообщении #1573045 писал(а):

Не только неравновесность важна

Перечитайте, на что отвечаете. Никто не утверждал, что неравновесности достаточно. Но вы утверждали, что она необходима, причем не меньше какой-то, а у компьютера меньше. Поэтому теперь вам нужно сказать, сколько необходимо.

(Оффтоп)

Разницу между необходимым и достаточным условиями можно посмотреть в школьных учебниках по математике, если уж в философских трактатах про неё не пишут.

Dicson в сообщении #1573045 писал(а):

Можно ли "в кремнии" выразить сложность поведения нейрона?

А можно ли в углероде выразить сложность поведения нейрона?

[Mihaylo]

Dicson в сообщении #1573045 писал(а):

Бифуркация - это качественное изменение поведения динамической системы при бесконечно малом изменении её параметров. Представление о системе на таком уровне точности можно получить, только описав её на элементарном уровне материи. Но представление об элементарном уровне материи не имеет смысла, поэтому задать его программно невозможно. Однако порядок в хаосе возникает именно как переход через точку бифуркации, при этом нормальная активность одиночного нейрона представляет собой динамический хаос, а в мозге происходит их синхронизация на разных ритмах (то есть возникает упомянутый порядок в хаосе - уменьшается энтропия, появляется информация).

Погодите-ка, погодите-ка. Про бифуркацию - мы это все знаем. Но почему вдруг нейрон генерирует хаос - вот об этом поподробнее, пожалуйста. Иначе все дальнейшие посылки - ложь.

Бифуркация у нейрона при значении 0,5 (сигмоида) или 0,0 (тангенсоида). И бифуркации в нейронной сети, скажем так, явление слабо значимое и редкое. Что скажете на счет этого?


-- 08.12.2022, 19:56 --

Вы даже не удостоверились в научных фактах, а уже с философским гонором выступаете. Оторвались от науки, к сожалению. Наука - это трудно.

[talash]

mihaild в сообщении #1573033 писал(а):

talash, проблема в том, что этот тест человек не пройдет. Лично я затрудняюсь сделать то, что через минуту сделает мой кот (и даже угадать это).

Я затрудняюсь понять при чём тут Ваш кот? Вы домыслили мой план и вместо меня придумали тесты, которые не пройдёт человек? Это странно, ей богу. Я придумаю тесты, которые пройдёт даже рыба или ещё кто попроще.

[Energos]

Dicson в сообщении #1573045 писал(а):

Во-первых, в статье как бы само собой подразумевается, что нейронные сети необходимой сложности уже где-то есть, осталось только их обучить. Однако таких сетей нет. Но главное, что разрабатывает системы ИИ и оценивает их обучение уже именно человек, а не "знания в интернете". Поэтому, сколько бы данных ни было, сложность создаваемых систем всё равно будет ограничена сложностью интеллекта человека.

Не важно, что и как оценивает человек. Искусственный интеллект решает конкретные задачи, по которым его можно оценить и сделать вывод о качестве.
Этот процесс даже можно автоматизировать програмно. Один интеллект будет думать, другой - оценивать.

[talash]

Mihaylo в сообщении #1573048 писал(а):

talash в сообщении #1573030 писал(а):

Поскольку человек прошёл длинный эволюционный путь от самого простого животного, то прогресс в AGI логично мерять способностью агента к выполнению задач, которые могут выполнять животные. Чем выше организовано животное, тем более сложные задачи оно может выполнять. Можно утвердить шкалу прогресса вплоть до конкретных цифр. Далее запускать AGI-агентов в искусственную среду и проверять могут ли они делать то, что могут животные. Набор тестов заранее не определён, всегда могут быть придуманы и введены новые, если животные их пройдут.

Детский сад, получается. Вы не понимаете простой вещи - это никому не надо - растрачивать электроэнергию впустую. Людям нужна имитация человека, а не эта хрень, якобы, во имя науки. Я вас уверяю, тут ничего интересного для науки нет. Просто оптимизационные задачи разной сложности.

Зачем уверять на словах. Вы просто покажите мне систему, где кибернетические животные умеют обучаться методом подкреплений.

Я задаю правила, а они обучаются. Например, есть разноцветный корм, находить его и съедать. Затем я задаю правило, что некий цвет - невкусный и животное обучается его избегать. Потом я могу ещё что-то придумать, например, что если подряд есть корм одинакового цвета, то второй съеденный невкусный. Я ещё могу много всякого придумать. Фантазия должна быть ограничена экспериментами с реальными животными, могут ли они всему этому обучиться. А они могут многое.

И сделать такое кибернетическое животное, без хорошего понимания, как работает нервная система нереально. Вот поэтому таких животных до сих пор нет.

Понять законы Природы, как работает нервная система, это неинтересно для науки? Может быть тогда это не наука? Потому что наука как раз занимается изучением законов Природы.

[Mihaylo]

talash в сообщении #1573129 писал(а):

Зачем уверять на словах. Вы просто покажите мне систему, где кибернетические животные умеют обучаться методом подкреплений.

Животные не обучаются методом подкреплений. Подумайте каким методом. Послушайте популярные лекции Евгении Тимоновой и Станислава Дробышевского. А то что-то не туда несёт.

talash в сообщении #1573129 писал(а):

Фантазия должна быть ограничена экспериментами с реальными животными, могут ли они всему этому обучиться. А они могут многое.

Многое, но не все. Как и нейронки. Тут хрен поймёшь.

talash в сообщении #1573129 писал(а):

И сделать такое кибернетическое животное, без хорошего понимания, как работает нервная система нереально. Вот поэтому таких животных до сих пор нет.

Может это не требует расхода электроэнергии впустую?

talash в сообщении #1573129 писал(а):

Понять законы Природы, как работает нервная система, это неинтересно для науки? Может быть тогда это не наука? Потому что наука как раз занимается изучением законов Природы.

Законы изучены, нервная система изучена. Может не те аспекты вы рассматриваете?......

[mihaild]

talash в сообщении #1573127 писал(а):

Я затрудняюсь понять при чём тут Ваш кот? Вы домыслили мой план и вместо меня придумали тесты, которые не пройдёт человек?

Вы не указали, какие именно действия нужно проверять. С учетом того, что часть действий животных не может повторить человек, а часть может повторить камень, вам придется по сути произвольно выбрать набор действий. Что вполне себе тоже бенчмарк, но я не уверен, что какая-то "искусственная среда" тут нужна.

talash в сообщении #1573129 писал(а):

Вы просто покажите мне систему, где кибернетические животные умеют обучаться методом подкреплений

А вы покажите мне систему, где строят дома из кирпичей, каждый из которых покрашен в свой цвет. То, что чего-то нет, может означать как то, что этого делать не умеют, так и то, что это никому не нужно.

Mihaylo в сообщении #1573132 писал(а):

нервная система изучена

За последнюю неделю на медрхиве 34 препринта по нейробиологии. Я правильно понял, что вы специально ждали именно сегодняшнего дня, именно они статьи закрывают последние вопросы, а завтра ждем массового увольнения нейробиологов?

[Doctor Boom]

ozheredov в сообщении #1573041 писал(а):

Верна ли, с Вашей т.зрения, такая аналогия: я прохожу игру, на экране дорога, по которой идет ГГ, слева лес, справа деревня. Махровый Материалист говорит: стоп, какая деревня, какой лес -- есть только сигналы через hdmi монитора. На что я возражаю, что, в его терминах невозможно ни проходить игру (нельзя за короткое время понять по сигналам в кабеле, что они кодируют на экране), ни рассказать о ней кому-то. Вот эти образы на экране, будучи высокоуровневыми функциями низкоуровневых сигналов, и есть квалиа -- это так?

Можно сказать и так. Хотя можно придраться, что картинка на мониторе, и образ в нашей голове несколько разные вещи.

ozheredov в сообщении #1573041 писал(а):

Или квалиа не считается полностью завязанной на нейронные импульсы -- типа, есть что-то ещё, и вот оно + нейронные импульсы дает квалиа?

Оптимистично считают, что нет. Вот уже концепция философского зомби на это может быть завязана

[Dicson]

ozheredov в сообщении #1573050 писал(а):

Это относится к отсутствию стремления выжить у машин. То есть, это раскрытие Вашего очередного вранья. К гомеостазу никак.

Если к гомеостазу никак, то вопрос закрыт. У меня-то речь шла о гомеостазе. Там в скобках написано, читайте внимательнее. Да и без скобок из текста понятно, в чём разница.

ozheredov в сообщении #1573050 писал(а):

Кстати, Вы собираетесь отвечать за предыдущее враньё?

"Это обобщение по многим высказываниям темы. Поэтому оно было без конкретных имён."

Вы сейчас не просто предложили мне конкретизировать какие-то мои слова, а сразу обвинили меня во лжи. Обвинения надо доказывать. Поэтому теперь вы прежде обоснуйте, почему, по-вашему, в высказываниях участников темы нет оснований для впечатления, что "некоторые товарищи выше утверждают ничтожность философских аргументов, используя при этом философские аргументы, и тем самым не отходя от кассы опровергают сами себя". После чего докажите, что я именно соврал, то есть исказил что-то намеренно с каким-то недобрым умыслом. И вот только после этого я вам растолкую, почему вы опять ошибаетесь.

mihaild в сообщении #1573085 писал(а):

Так, чтобы это обсуждать, нужно, чтобы вы сказали, как вы считаете энтропию человека и компьютера.

Не нужно. Критерии, приведённые в предыдущем посте и качественно характеризующие системы, противоположны друг другу, поэтому отличие систем тоже качественное, то есть оно начинается ещё на уровне самых общих принципов их работы.

Причем даже сам переход от роста энтропии к её уменьшению не постепенный, а связан с бифуркациями, то есть это переход качественный, скачкообразный и непредсказуемый. Поэтому если бы речь шла о просто более равновесных системах и менее равновесных, о просто более интенсивном обмене со средой и менее интенсивном, о просто большем количестве флуктуаций или меньшем, то ещё куда ни шло, системы можно было бы сравнивать, но в данном случае при переходе от одной системы к другой не сохраняется ничего.

Поэтому и выразить одно через другое можно только очень ограниченно, и сравнивать компьютеры и биологические системы по каким-то количественным параметрам бессмысленно. Точнее говоря, так сравнивать их имеет смысл только на уровне выше общих принципов. Например, приблизительно так же не имеет смысла сравнивать принципы работы штор и микроволновок, но в то же время микроволновками можно загородить окно, а подожжёнными шторами разогреть пищу. Сколько для этого нужно микроволновок, сколько нужно штор - это можно сравнить. Вот то же самое в отношении тех же биологических и искусственных нейронных сетей. Несмотря на совершенно разные принципы работы, они отчасти похожи "внешне" и используются для решения отчасти похожих задач.

mihaild в сообщении #1573085 писал(а):

Перечитайте, на что отвечаете. Никто не утверждал, что неравновесности достаточно. Но вы утверждали, что она необходима, причем не меньше какой-то, а у компьютера меньше. Поэтому теперь вам нужно сказать, сколько необходимо.

Да, она необходима, тем не менее того, что вы написали, я не утверждал. Приведите цитату, пожалуйста. Проверим, может быть, вы не так поняли написанное.

mihaild в сообщении #1573085 писал(а):

А можно ли в углероде выразить сложность поведения нейрона?

Нет. Углерод один не справится.

Mihaylo в сообщении #1573117 писал(а):

Погодите-ка, погодите-ка. Про бифуркацию - мы это все знаем. Но почему вдруг нейрон генерирует хаос - вот об этом поподробнее, пожалуйста. Иначе все дальнейшие посылки - ложь.

Хорошо, поподробнее: потому что нейрон - это автоволновой осциллятор.

Цитата:

При этом говорят, что возникла автоволна, - один из результатов самоорганизации в термодинамически активных неравновесных системах .… к автоволновым процессам относятся колебательные химические реакции в активных средах (реакция Белоусова-Жаботинского), распространение импульса возбуждения по нервному волокну, …

Автоволны - Википедия.

Про хаос, бифуркации и синхронизацию:

Цитата:

Эксперименты последних лет, выполненные в различных лабораториях мира [16, 17, 39, 40], показывают, что нормальная активность одиночного нейрона представляет собой динамический хаос1. К примеру, одна из типичных реализаций мембранного потенциала одиночного нейрона из ЦГ омара (lobster) представлена на рис. 1 [40]. Анализ достаточно длинной временной реализации (длительностью около 1 мин) убеждает, что данная хаотическая реализация действительно генерируется некоторой динамической системой. Другими словами, наблюдаемый хаос есть следствие внутренней динамики нейрона и не связана с действием шумов. Реконструированный по этой реализации фазовый портрет устойчивого предельного множества (в данном случае — это странный аттрактор) представлен на рис. 4А … Подобные же результаты следуют из экспериментов с одиночным нейроном — пейсмейкером моллюска Oncidium [16], а также другими нейронами.

(…)

Другой феномен, который обнаружился при исследовании системы (3.6), - это пластичность. Как видно из рис. 7, даже сравнительно небольшое изменение параметров синаптической связи приводит к бифуркациям и качественному изменению режима синхронизации двух ингибиторно связанных нейронов. Это может быть полная фазовая синхронизация нейронов, противофазная синхронизация или синхронизация с некоторым постоянным сдвигом фаз.

Синхронизация в нейронных ансамблях - Успехи физических наук, стр. 368.

Ещё про автоволны, хаос, бифуркации и синхронизацию:

Цитата:

Неравновесные фазовые переходы - переходы многочастичных систем, находящихся вдали от термодинамич. равновесия, в стационарные состояния с пространств. или временной когерентностью. Неравновесные фазовые переходы связаны с потерей устойчивости исходного бесструктурного состояния, являющегося экстраполяцией равновесного состояния в неравновесные условия, и происходят в результате бифуркаций, приводящих к возникновению новых стационарных состояний. Подобные явления имеют место в открытых системах и обусловлены флук-туациями, индуцируемыми внеш. Воздействием.

Пример неравновесных фазовых переходов - возникновение лазерной генерации. С термодииамич. точки зрения лазер представляет собой неравновесную систему, т. к. она включает в себя атомы и поле, к-рые связаны с резервуарами, имеющими разд. температуры. При слабой накачке активные атомы излучают независимо друг от друга. С увеличением накачки лазер переходит в когерентное состояние, в к-ром все атомы излучают в фазе. При этом обнаруживается аналогия с фазовыми переходами 2-го рода. Подобная аналогия имеет место при Н. ф. п. и в др. системах: физических (образование конвективных ячеек Бенара; возникновение осцилляции напряжённости электрич. поля в диоде Ганна), химических (появление автоколебаний и автоволн при хим. реакциях), биологических (переход в режим ритмич. активности нейронных ансамблей; образование неоднородных структур при морфогенезе) и т. д.

Неравновесные фазовые переходы - Перепечатка из Физической энциклопедии.

Про сложность (причём речь всё равно идёт о сильно упрощённой модели мозга):

Цитата:

При современном уровне развития технологий реконструкция большинства связей между нейронами даже в небольшом мозге мыши может занять несколько миллионов лет (табл. 1). Так что широкое применение этого метода для человека пока невозможно.

Blue brain project: связи и хаос - Биомолекула

Mihaylo в сообщении #1573117 писал(а):

И бифуркации в нейронной сети, скажем так, явление слабо значимое и редкое.

См. выше. Любое изменение режима синхронной активности нейронов - это переход через точку бифуркации. То есть в мозге это явление, наоборот, более чем массовое. Например, любое переключение внимания - это новые синхронизированные ансамбли нейронов. Волновая динамика в мозге меняется постоянно. См. синхронизация (нейробиология).

Поэтому, например, наши мысли всегда упорядочены, так как всегда упорядочена активность их "носителей" нейронов. Но одновременно мысли изменчивы, так как биологическая нейронная сеть система неравновесная, чувствительная. И так далее, связь особенностей сознания с логическими особенностями устройства мозга и характером активности нейронов в нём гораздо более широкая.

[Mihaylo]

mihaild в сообщении #1573133 писал(а):

а завтра ждем массового увольнения нейробиологов?

Так изучена или не изучена, вот в чем вопрос! Если вы скажете "не изучена", поддержите мракобесов.

Dicson в сообщении #1573174 писал(а):

Хорошо, поподробнее: потому что нейрон - это автоволновой осциллятор.

Вы нам преподали урок нового вида научных исследований! Позже отвечу подробнее.

[AAA1111]

ozheredov в сообщении #1573041 писал(а):

Dicson в сообщении #1572103 писал(а):

машинам всё равно, живы они или нет (гулите гомеостаз). То есть у них нет встроенного ещё на физическом уровне активного стремления к самосохранению

Мой коптер орет при попытке (притворной) влепить его в стену. Шах и мат.

Два магнита тоже противодействуют попытке влепить их друг в друга, и сигнализируют об этом оказывая давление на пальцы рук человека который пытается этими пальцами их сблизить. Значит магнитам не всё равно живы они или нет, и у них есть активное стремление к самосохранению?

[Mihaylo]

Dicson в сообщении #1573174 писал(а):

Цитата:

Эксперименты последних лет, выполненные в различных лабораториях мира [16, 17, 39, 40], показывают, что нормальная активность одиночного нейрона представляет собой динамический хаос1.

У вас есть возможность прочитать сноску №1 здесь (скачать pdf):
https://ufn.ru/ru/articles/1996/4/b/

Цитата:

При анализе индивидуальной динамики нейрон изолируется от соседей либо физически (изымается из ганглия), либо химически - все связанные с исследуемым нейроны сильно гиперполяризуются и, следовательно, не проявляют активности.

Это очень важно! Это значит, что нейрон "брыкается" вне нейронной сети. И больше ничего это не значит. Отсюда не следует, что внутри нейронной сети нейрон генерирует шум!

P.S. Более того, от нейросети не следует ожидать творческого экстаза в виде случайного шума. Наоборот, реакция на внешние сигналы должна быть однозначной и правильной. Типа "Увидел пищу - поймай ее и съешь".

Ваше представление о шумном творческом экстазе нейросети смехотворно.

Теперь о синхронизации нейронов, что это такое и с чем это едят. Я прочитал ту статью по ссылке выше. Сам я не специалист. Синхронизация нейронов необходима для координации реакций нейронов. Нейроны имеют разные размеры, а значит разное время реакции. Но допустим при дыхании разные нейроны должны отвечать: один - за вдох, другой - за выдох. Надо их синхронизировать. Вот и все. Больше тут ничего таинственного нет.

[ozheredov]

AAA1111 в сообщении #1573181 писал(а):

магнитам не всё равно живы они или нет, и у них есть активное стремление к самосохранению?

Нет, это закон природы (с). А теперь докажите, что Ваше личное "активное стремление к самосохранению" нечто совершенно другое. Что Вы не точно такая же пешка в руках эволюционно обусловленных алгоритмов мышления/поведения, как магниты в руках закона Ампера или квадрик в руках скрипта.

[mihaild]

(Рукомахательство про хаос и бифуркацию предлагаю свернуть)

Dicson в сообщении #1573174 писал(а):

Причем даже сам переход от роста энтропии к её уменьшению не постепенный

Прежде чем говорить, уменьшается или увеличивается какая-то величина, нужно сказать, как она собственно считается.

Dicson в сообщении #1573174 писал(а):

Да, она необходима, тем не менее того, что вы написали, я не утверждал. Приведите цитату, пожалуйста

Dicson в сообщении #1572750 писал(а):

Но если на макроуровне они [напряжения и флуктуации] на работу системы значимого влияния не оказывают, то, соответственно, как целое эта система будет находиться в состоянии равновесия, будет равновесной.
А вот если обмен системы со средой носит настолько интенсивный характер, что динамика элементов системы хаотическая, то возможна их самоорганизация [...]
В которой самоорганизация - это, соответственно, уже "неравновесный" фазовый переход - поведение элементов системы не утрачивает активности, но скачком становится согласованным.

Dicson в сообщении #1573174 писал(а):

Углерод один не справится

А вообще "сложность нейрона" "выразить" хоть в чем-то возможно?

Mihaylo в сообщении #1573176 писал(а):

Так изучена или не изучена, вот в чем вопрос! Если вы скажете "не изучена", поддержите мракобесов

Статья на medrxiv Towards the integrative theory of Alzheimer′s disease: linking molecular mechanisms of neurotoxicity, beta-amyloid biomarkers, and the diagnosis появилась уже после вашего заявления "нервная система изучена". Следовательно, эта статья либо не про нервную систему, либо неверна, либо не содержит ничего нового по сравнению с тем, что было до неё. Какой вариант вы считаете верным?

[AAA1111]

ozheredov в сообщении #1573204 писал(а):

Нет, это закон природы (с). А теперь докажите, что Ваше личное "активное стремление к самосохранению" нечто совершенно другое. Что Вы не точно такая же пешка в руках эволюционно обусловленных алгоритмов мышления/поведения, как магниты в руках закона Ампера или квадрик в руках скрипта.

Так магниты живые, и они хотят сохранить свою жизнь? Я правильно понял?

ozheredov в сообщении #1573204 писал(а):

А теперь докажите, что Ваше личное "активное стремление к самосохранению" нечто совершенно другое.

Не вижу смысла доказывать абсурдный или слишком мутный тезис. У меня нет стремления к самосохранению.
Я хочу (стремлюсь):
Во-первых, избавиться от своих страданий (дискомфорта) навсегда (даже если для этого потребуется моё полное исчезновение навсегда). И соответственно максимально приблизиться к этому, если это невозможно.
Во-вторых, если избавление меня навсегда от страданий произошло, и я при этом остался жив (существую), то максимизировать уровень своей довольности (приятности своего самочувствия).

Причём уровень моего комфорта/дискомфорта в немалой мере связан с предполагаемым мной уровнем комфорта/дискомфорта остальных существ.
А в возможности чьего-либо полного исчезновения навсегда я очень сильно сомневаюсь (почти полностью уверен, что это невозможно), во многом на основе интуиции.