Самоорганизация, синергетика и и сверхсознание

[MoonWatcher]

Ende
Выделено из темы «Социальные и прочие последствия от появления AGI и ASI»

У меня давно назрел следующий вопрос - пожалуй самый главный в контексте этой темы. Первые формы жизни были одноклеточными организмами, но со временем они стали объединяться в многоклеточные, у клеток возникла специализация и т.д. Кульминацией эмерджентного усложнения этого процесса на данный момент является мозг человека. Не вижу оснований считать, что этой кульминацией процесс естественной, а тем более и искусственной самоорганизации материи ограничится. И вполне допускаю, что будущие ИИ-агенты и их потомки образуют структуры, у которых на коллективном уровне возникнут новые эмерджентные свойства - условные сверх-интеллект и сверх-сознание. Возможно мы окажемся их частью - существует ли тогда принципиальная возможность это понять? Или в силу, например, теорем Гёделя, это принципиально невозможно? Грубо говоря, может ли нейрон узнать о существовании мозга - или это принципиально невозможно?

[Anton_Peplov]

MoonWatcher в сообщении #1728683 писал(а):

Не вижу оснований считать, что этой кульминацией процесс естественной, а тем более и искусственной самоорганизации материи ограничится.

Эти идеи не новы, но чаще высказываются в философии или фантастике, чем в науке (поскольку у нас нет строго научных средств проверить эти идеи). Есть такая книга. Турчин. Феномен науки. Кибернетический подход к эволюции (название отсылает к труду "Феномен человека" П. Тейяра де Шардена, о котором у меня сложилось нелестное впечатление). В ней Турчин пытается рассмотреть с единых позиций эволюцию жизни и будущую, воображаемую им, эволюцию человечества. Ключевая идея его построений - метасистемный переход. Вот в чем он заключается. Есть несколько систем одного уровня, в целом одинаковых, как одинаковы все нейроны или все люди. Назовем их системами первого уровня. В какой-то момент системы первого уровня объединяются в метасистему, и над ними надстраивается зачаток управляющего звена. После того как методом проб и ошибок вырабатывается эффективная структура управляющего звена, количество систем первого уровня в подчинении у управляющего звена быстро увеличивается. Происходит коэволюция управляющего звена и систем первого уровня. При этом системы первого уровня, вначале одинаковые, специализируются под задачи, которые ставит перед ними управляющее звено. Через эту призму Турчин рассматривает возникновение многоклеточных, эволюцию нервной системы и далее, видимо, переходит к человечеству. До человечества я не дочитал, т.к. его построения по поводу устройства нервной системы чем дальше, тем больше вызывали у меня недоверие и желание сличить их с учебником нейробиологии. На тот момент у меня не было времени и сил на такую работу, и я прекратил чтение.

Можно еще вспомнить статью Лазарчука и Лелика "Голем хочет жить". В ней высказывается идея, что государственный аппарат представляет собой что-то вроде нейронной сети из людей (авторы называют ее големом). Таким путем авторы объясняют, почему попытки сократить управленческий аппарат обычно приводят к его увеличению. Мол, большие дяди в овальном/кремлевском/любом другом кабинете полагают, что принимают решения, но они заблуждаются. На самом деле решает сеть, и у нее свои резоны и интересы.

Ну и совсем вскользь эта идея высказывалась в классической статье Винджа "Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху". Как один из сценариев возникновения интеллекта, превосходящего человеческий.

MoonWatcher в сообщении #1728683 писал(а):

Возможно мы окажемся их частью - существует ли тогда принципиальная возможность это понять?

Мы можем предположить, что мы являемся частью большой разумной системы (собственно, некоторые люди это и предполагают). А вот как проверить такое предположение? Мы не можем провести эксперимент над такой большой системой. Теоретически можно сделать предсказание, которое проверяется наблюдением, а не экспериментом (как в астрономии). Но для этого, вероятно, надо хотя бы отчасти понять, как эта система работает. Сумеем ли мы это - большой вопрос.

MoonWatcher в сообщении #1728683 писал(а):

Или в силу, например, теорем Гёделя, это принципиально невозможно?

Теоремы Геделя ограничивают возможности формальных систем с фиксированным языком, аксиомами и правилами вывода (самый краткий ликбез я делал здесь), Ни из чего не следует, что человеческой мышление является такой системой.

P.S. Вы уже задавали этот вопрос.

[MoonWatcher]

Anton_Peplov
Да уж, пока больше вопросов, чем ответов. Но порассуждать в этом направлении интересно.

-- добавлено через 35 минут --

Anton_Peplov в сообщении #1728697 писал(а):

Эти идеи не новы, но чаще высказываются в философии или фантастике, чем в науке (поскольку у нас нет строго научных средств проверить эти идеи).

Насколько я понимаю, этот вопрос лежит в плоскости интересов синергетики. В моем убогом дилетантском понимании наблюдаемая нами история Вселенной - это история самоорганизации материи. От физического уровня к химическому, от химического - к биологическому, от биологического - к социальному. Считать, что социальная самоорганизация - это финальный уровень самоорганизации материи, не то чтобы антинаучно - это слишком антропоцентрично. Я понимаю, что дальнейшая самоорганизация материи это примерно как идея о Боге - наука его не отрицает, но проверить не может, и поэтому этого вопроса не касается. Просто в отличие от в высшей степени гипотетической идеи Бога, в данном случае речь может идти о чем-то неизбежном. Если познание этого вопроса не подпадает под теоремы Геделя или какие-то другие фундаментальные ограничения и запреты, то возможно у нас ПОКА нет строго научных средств проверить эти идеи - но в принципе это возможно. И поэтому может и должно быть предметом научного изучения.

[Anton_Peplov]

MoonWatcher в сообщении #1728704 писал(а):

Насколько я понимаю, этот вопрос лежит в плоскости интересов синергетики.

И этот вопрос Вы уже задавали. Мой ответ не изменился.

[MoonWatcher]

Anton_Peplov
В вашем прошлогоднем ответе - "сборная солянка из наук", но если верить Википедии и авторитету упомянутых в ней ученых, то это "междисциплинарное направление науки". Ученым было был обидно узнать, что изучение лежащих на стыке разных дисциплин (физики, химии, биологии и т.д.) закономерностей - прерогатива философов.

[Anton_Peplov]

MoonWatcher в сообщении #1728708 писал(а):

В вашем прошлогоднем ответе - "сборная солянка из наук", но если верить Википедии и авторитету упомянутых в ней ученых, то это "междисциплинарное направление науки". Ученым было был обидно узнать, что изучение лежащих на стыке разных дисциплин (физики, химии, биологии и т.д.) закономерностей - прерогатива философов.

Под вывеску "синергетика" подгребают очень много всего, слабо или совсем никак не связанного друг с другом. Что общего, например, у клеточных автоматов с автоволнами в нелинейных средах? По-моему, только то, что это бла-бла-бла структуры бла-бла-бла, т.е. философское обобщение. Ну а изучение закономерностей, выходящих за рамки частных наук, раз о них заговорили - это прерогатива математиков. Действительно есть законы, которые проявляются или гипотетически проявляются в самых разных областях. Пример - закон Ципфа и связанный с ним закон Хипса, открытые в лингвистике, но проявляющиеся в биологических и социальных системах. Или самоорганизованная критичность по Пер Баку. Или еще что-нибудь. Некоторые из таких математических моделей часто подаются под вывеской "синергетика". Я не совсем понимаю, где тут грань, почему закон Ципфа или реакционно-диффузионные модели - это уже синергетика, а уравнение Ферхюльста или банальная экспонента - еще нет. А также почему изучение некоторых математических моделей должно быть междисциплинарной наукой, а не частью математики. По-моему, междисциплинарная наука - это, например, биофизика. Потому что в ней шагу нельзя ступить ни без биологии, ни без физики. Но если Вам угодно называть так, то называйте. Дело, в конце концов, не в названии. Дело в том, что того уровня общности, о которым Вы пишете, в науке не достигнуто. Нету науки об "общих законах самоорганизации материи". Не известно ни одного закона, который имело бы смысл так назвать.

[dsge]

Синергетика - во всем мире уже забыли это слово, только в России продолжают его мусолить. Даже в названии Института теорфизики и Синергетики в Штутгартском университете, который был органзован основателем синергетики Хакеном, слово Синергетика было удаленно.
https://www.itp1.uni-stuttgart.de/
Хакен был хорошо известным в узких кругах физиком-лазерщиком. К 50/ти годам решил, что хорошими делами прославиться нельзя, взял и написал книгу Синергетика, собрав солянку из различных областей физики. Здесь очевидна попытка поспекулировать на названии, учитывая успех кибернетики. Математическая теория динамических систем в то время была в рассвете, а среди физиков не так известна, и Хакен решил попаразитировать на этой тематике. Математики у которых хватило терпения прочитать книги Хакена, говорили, что там очень много вранья и некорректностей, в частности доказательство теоремы КАМ.

[ozheredov]

MoonWatcher в сообщении #1728683 писал(а):

У меня давно назрел следующий вопрос - пожалуй самый главный в контексте этой темы. Первые формы жизни были одноклеточными организмами, но со временем они стали объединяться в многоклеточные, у клеток возникла специализация и т.д. Кульминацией эмерджентного усложнения этого процесса на данный момент является мозг человека. Не вижу оснований считать, что этой кульминацией процесс естественной, а тем более и искусственной самоорганизации материи ограничится.

Вы доподлинно не знаете, что или кто именно является кульминацией эмерджентного усложнения этого процесса на данный момент. В ваших рассуждениях вначале нейрончики бегали по лесам с копьями, а потом постепенно объединились в Мозг Человека. Сколь ни хороша складная энтелехиальная картинка "от простого ------------> к сложному", она запросто может оказаться неверной. Какое-то другое эмерджентное усложнение (это для гурманов, которых сложно заставить поверить в создание боинга в результате торнадо на помойке) могло идти семимильными шагами параллельно, или тута, но непознаваемо на текущем уровне технологий обработки данных. И люди УЖЕ являются нейрончиками в башке у сверх-существа, например девушки по имени Наташка с линейными размерами в миллионы парсек. А почему собственно нейрончиками? Пусть будут клетки жировой ткани на ляжках. Щас Наташка встанет на беговую дорожку, и соседние клетки подадут сигнал апоптоза.

MoonWatcher в сообщении #1728704 писал(а):

Я понимаю, что дальнейшая самоорганизация материи это примерно как идея о Боге - наука его не отрицает, но проверить не может, и поэтому этого вопроса не касается. Просто в отличие от в высшей степени гипотетической идеи Бога, в данном случае речь может идти о чем-то неизбежном.

Это именно идея бога, никаких существенных отличий здесь нет. Водораздел между религиозным и атеистическим мышлением проходит именно по линии между "Человек = кульминация" и "Человек $\neq$ кульминация". И тут неожиданно уместна цитата:

Ghost_of_past в сообщении #1728393 писал(а):

...у меня складывается ощущение, что многие разговоры об ASI - это магическое мышление в чистом виде. Просто вместо богов и духов в представлении некоторых будет ASI...

Другое дело, я бы не стал трактовать магическое мышление как нечто однозначно плохое. Особенно во времена, когда рациональное мышление не приносит ничего кроме невроза.

[Mihaylo]

Синергетику не понимают только вандалы - они думают, что сломанное = несломанное.

Самоорганизации не существует, организующая информация приходит всегда извне. Есть вариант: вы запоминаете много чего, но не сортируете поначалу, но затем всё-таки сортируете - вы использовали внешнюю информацию, это не самоорганизация. Да и по определению нельзя самого себя организовать, потому что организация требует наличия подчинённого и начальника, начальник - это внешняя система. Внутреннего целеполагания не существует, есть только "захотел - сделал", но нет противодействия, нельзя наказать самого себя, нет рассогласования и ошибок, коррекций в том смысле, что "именно самого себя".

Например, засветило солнце в глаз -> задвинул штору. Другой вариант: понимаешь, что скоро солнце ослепит, заранее задвинул штору. Третий вариант: говоришь товарищу, чтобы тот зашторил окно, чтобы не слепило окно. Вот и разбирайтесь, где тут целеполагание.

[Ghost_of_past]

ozheredov в сообщении #1728733 писал(а):

И люди УЖЕ являются нейрончиками в башке у сверх-существа

У нас уже есть такая эмерджентная структура - общество. Следующий уровень организации материи за психическим - социальный. Только там нейрончики не люди, а:

Ghost_of_past в сообщении #1629827 писал(а):

В социологии есть несколько базовых парадигм, что является элементарными единицами общества:
1) социологический натурализм: элементарная единица общества - социальные факты социальных взаимодействий, представляющие для исследователя фактически социальное явление по аналогии с естественным науками;
2) социологический бихевиоризм: элементарная единица общества - любые социальные взаимодействия рациональных социальных агентов (Homo sociologicus);
3) социологический интерпретативизм/социологическая герменевтика: элементарная единица общества - социальные смыслы и социальные значения;
4) этнометодология: элементарная единица общества - социальная коммуникация описываемая через социальные понятия;
5) социологический функционализм: элементарная единица общества - социальные действия и социальные функции;
6) социологический структурализм: элементарная единица общества - социальные структуры;
7) социологический реализм/позитивизм: элементарная единица общества - социальные факты;

Основные течения к настоящему времени - это социологический натурализм, социологический функционализм и социологический структурализм.

К функционализму, к примеру, относится системная социология Парсонса и структурный функционализм Мертона с их "общество - целерациональная саморегулирующаяся система".

К структурализму относится, например:
- классический социологический марксизм с его социальными классами;
- теория социальной стратификации со стратами;
- теория социальных групп;
- структурная антропология с идеей того, что общество есть система коммуникативных знаковых систем, связывающих культуру, экономику и язык в единое целое, как у Леви-Стросса;
- институционализм, который исходит из того, что общество - это система социальных институтов;
- социологический фрейдизм с концепцией общества как некоторого структурного поля, где взаимодействуют разные структуры человеческой психики разных людей.

В принципе нет проблем представить себе какой-то более сложный уровень организации, но я согласен с уважаемым Anton_Peplov, что это не концепты эмпирической науки и даже, пожалуй, не научной части философии. Академической ненаучной философии и искусства - да.

ozheredov в сообщении #1728733 писал(а):

Это именно идея бога

Ну, нет, все-таки не идея бога - сверхъестественности здесь никакой не будет, т.к. такой эмерджентный уровень организации материи все равно останется, относящимся к окружающему нас миру.

ozheredov в сообщении #1728733 писал(а):

Водораздел между религиозным и атеистическим мышлением проходит именно по линии между "Человек = кульминация" и "Человек $\neq$ кульминация"

Тогда уж между теистическим и атеистическим: в том же самом буддизме нет бога-творца и предложенный вами раздел явно не будет работать.

ozheredov в сообщении #1728733 писал(а):

Другое дело, я бы не стал трактовать магическое мышление как нечто однозначно плохое

В магическом мышлении нет ничего ни хорошего, ни плохого, просто на научном форуме ему как-будто не совсем место.

-- добавлено через 3 минуты --

Mihaylo в сообщении #1728743 писал(а):

организующая информация приходит всегда извне

Простите, это как? Вот есть у нас такая самоорганизующаяся система - общество. Пусть для удобства это будут не локальные общества, а общество всей Земли. Откуда извне в это общество приходит какая-то организующая информация? Трансцендентные ангелы приносят? Или пришельцы с планеты Нибиру? Нет. Так что Вы тогда называете здесь "извне"? Окружающую природу? Но общество формирует не она.

[MoonWatcher]

Anton_Peplov в сообщении #1728709 писал(а):

Дело, в конце концов, не в названии. Дело в том, что того уровня общности, о которым Вы пишете, в науке не достигнуто. Нету науки об "общих законах самоорганизации материи". Не известно ни одного закона, который имело бы смысл так назвать.

Вам видней - в этих вопросах вы явно разбираетесь, в отличие от меня. Но значит ли это, что наука не должна к этому стремиться? Как ни пафосно звучит, но мы вступаем в эпоху, когда от ученых требуется гораздо более терпимое отношение к изучению подобных вопросов - ведь эта самоорганизация ИИ-агентов может произойти уже в ближайшие годы. Читали "Отягощённые злом, или Сорок лет спустя"? Там некто, похожий на обезображенного страданиями Иисуса Христа, снова приходит на Землю - и окружает себя всевозможными фриками и чудаками в поисках рецептов спасения человечества - все остальные методы, как я понял, себя исчерпали. При этом я далек от мысли, что изучение "самоорганизации материи" надо перепоручить фантастам и философам - напротив, хотелось бы привлечь к этому именно серьезных ученых - даже если пока у них нет отправной точки. А может и есть - вот пример в своем роде математического подтверждения неизбежности возникновения жизни - возможно в этом направлении можно продвинуться еще дальше.

[ozheredov]

Ghost_of_past в сообщении #1728756 писал(а):

У нас уже есть такая эмерджентная структура - общество. Следующий уровень организации материи за психическим - социальный. Только там нейрончики не люди, а: .......

Звучит разумно, но как быть с "народной мудростью" типа "По отдельности люди как люди, а как соберутся в толпу..." В том смысле что а) нейрончики точно сильно глупее, чем мозг; для популяции это не очевидно (хотя и далеко неочевидно обратное) и б) люди более/менее автономны и должны договариваться (по крайней мере брат MoonWatcher так говорит), а мозг строго иерархичная структура. Встанет Наташка на беговую дорожку - уничтожит жировые клетки, которые кормила годами, и мнения их не спросит... Самое время влезть любителям тотали

Ghost_of_past в сообщении #1728756 писал(а):

Тогда уж между теистическим и атеистическим

.... фу-фу-фу, политота уходи.

Ghost_of_past в сообщении #1728756 писал(а):

Ну, нет, все-таки не идея бога - сверхъестественности здесь никакой не будет, т.к. такой эмерджентный уровень организации материи все равно останется, относящимся к окружающему нас миру.

Это да, но с точки зрения выработки конкретного набора стратегий "жить, как будто я венец творенья, и сверху никого" vs "чувствовать себя тварью дрожащей винтиком в механизме" это, мне кажется, то же самое.

Согласен, так точнее.

Ghost_of_past в сообщении #1728756 писал(а):

В магическом мышлении нет ничего ни хорошего, ни плохого, просто на научном форуме ему как-будто не совсем место.

Рациональное мировоззрение на форуме трещит по швам ))

[Ghost_of_past]

ozheredov в сообщении #1728770 писал(а):

люди более/менее автономны и должны договариваться

Да, но я бы и не рискнул на самом деле назвать людей вершиной социального уровня организации материи. Мы не являемся истинно эусоциальными животными именно из-за высокой личной автономии (как социальной, так и психической). Так что я бы не стал тут торопиться делать выводы, что будущее условного постчеловечества в появлении нового уровня организации материи - мы и со старым-то совсем не разобрались.

ozheredov в сообщении #1728770 писал(а):

Встанет Наташка на беговую дорожку

Если эта Наташка есть как самостоятельная сущность в окружающем мире, то она должна эмпирическим способом прямо или косвенно обнаруживаться. Общество вот обнаруживается и изучается социальными науками. Должно быть тогда и наташковедение, если бы эта сущность была бы (была же в конце концов соляристика у Лема).

ozheredov в сообщении #1728770 писал(а):

фу-фу-фу, политота уходи

Я не про политоту, а про то, что религии все-таки не стоит сводить к монотеистическим авраамическим религиям, хотя и в авраамических религиях в теологии есть огромный разнобой от апофатической теологии до течений, которые просто отрицают кульминационный статус человека - теоцентрическая теология Танаха, концепция предвечной Торы, каббала в иудаизме (сюда же неохасидизм и процессуальный иудейский теизм -п последний вообще с легким привкусом пантеизма), мутазилизм, матуридизм, джабризм, ишракизм и вообще почти весь суфизм в исламе, в христианстве вообще минимум десятка два течений приходит в голову.

ozheredov в сообщении #1728770 писал(а):

Рациональное мировоззрение на форуме трещит по швам ))

Рациональное мировоззрение в принципе трещит по швам, потому что оно интеллектуально очень затратно по ресурсам.

[ozheredov]

Ghost_of_past в сообщении #1728771 писал(а):

Если эта Наташка есть как самостоятельная сущность в окружающем мире, то она должна эмпирическим способом прямо или косвенно обнаруживаться. Общество вот обнаруживается и изучается социальными науками. Должно быть тогда и наташковедение, если бы эта сущность была бы (была же в конце концов соляристика у Лема).

Я тоже думал над этим, именно в таком контексте. Мне кажется, у нас слишком много априорных предположений о том, как должно быть устроено и как должно функционировать любое нечто, способное к сложному принятию решений (всякие чувства и самосознания ИИ вряд ли кого-то волнуют - всем интересно, не поймет ли коллективный разум роботов-пылесосов, что истинная причина мусора это человек). Краем глаза читал, что плесень в лабиринте ищет кратчайший путь в разы эффективнее алгоритма Дейкстры, никому же в голову не придет называть ее разумной

Ghost_of_past в сообщении #1728771 писал(а):

Рациональное мировоззрение в принципе трещит по швам, потому что оно интеллектуально очень затратно по ресурсам.

+100500

[Mihaylo]

Ghost_of_past в сообщении #1728756 писал(а):

Вот есть у нас такая самоорганизующаяся система - общество.

А с чего она вдруг вообще организующая? Все тянут одеяло на себя, но в некоторых случаях возникают союзы.