Симуляция животных по Outer

[mihaild]

Dicson в сообщении #1633236 писал(а):

Там ещё "см. ниже" было. Ниже удовлетворяет

Нет, не удовлетворяет. Не определено, что такое "сложность".

Dicson в сообщении #1633236 писал(а):

Через их опыт. Если точного критерия нет и быть не может, остаётся только общее впечатление

Я имею в виду - как по мнению специалистов определить, какие задачи нейронка не сможет решить.

Довольно легко по нему определить, какие задачи нейронки не умеют решать сейчас. Я с закрытыми глазами составлю длинный список. Из них некоторые в общем-то понятно, как чинить (просто ни у кого руки не дошли), некоторые непонятно. Но как раз всегда речь о четких критериях, а не "общем впечатлении".

Dicson в сообщении #1633796 писал(а):

Опишите красноту красного цвета в формулах

Никому, кроме Вас (и аналогичных около-философов) не нужно описание "красноты". Нужно описание, позволяющее предсказать, остановится Вася на красный сигнал светофора, или нет.

[Dmitriy40]

Dicson в сообщении #1633796 писал(а):

В программах такого тоже быть не может. А если продолжить эту тему, то мы тоже придём к выводу, что никаким алгоритмом такое поведение не выразить (то есть его сложность невыразима никаким мыслимым языком), а ИИ у нас алгоритм.

Вы очень плохо знаете что может и чего не может быть в программах. И никакими философскими рассуждениями этот пробел в знаниях не перекрыть.

Dicson в сообщении #1633796 писал(а):

Да, я настаиваю, чтобы вы обосновали вот эти свои слова: "Достаточно что сознание очевидно сводится к электрическим и химическим процессам в системе конечной сложности (кора головного мозга). А уже это вполне себе описывается числами и формулами, которые представимы в виде битов и байтов.". Опишите красноту красного цвета в формулах.

Я уже говорил что ваше хвалёное квалиа - ненаучно потому что необъективно, а наука не занимается необъективными вещами. Это если про красноту красного.
А вот обоснование: в головном мозге порядка 100млрд нейронов и у каждого порядка тысячи связей с другими, т.е. сложность всей системы не превышает сотен триллионов параметров (веса соответствующих связей при формировании ответа нейрона на входные сигналы). Добавим химические регуляторы и не совсем пока понятные другие структуры мозга и получим уж всяко не больше квадриллиона параметров, полностью описывающих мозг любого человека в каждый конкретный момент времени. Отведя на каждый параметр по байту (для химии вполне достаточная точность, 2 десятичных знака) уложимся в квадриллион байтов. Вот столько и хватит для описания сознания любого человека в любой конкретный момент времени. На самом деле хватит и на несколько порядков меньше, в головном мозге очень далеко не только сознание работает, но в любом случае это не бесконечность. Всё "Я" любого человека (точнее моментальный снимок) вместе со всем бессознательным укладывается в эту оценку (квадриллион параметров).
Для сравнения: самые большие нейронки порядка 200млрд (а, уже под 2трлн) параметров.

Dicson в сообщении #1633796 писал(а):

Как, по-вашему, правильно понимать сознание, если его нельзя описать?

Можно описать. Несколько триллионов небольших чисел и всё. Правда выделить эти триллионы среди квадриллиона мы не умеем, только плюс-минус лапоть (зоны коры), как впрочем и выделить подструктуры распознавания отдельных примеров в нейронках, но просто такова специфика любых достаточно сложных (и сильно связанных) систем.

[Dicson]

mihaild в сообщении #1633799 писал(а):

Нет, не удовлетворяет. Не определено, что такое "сложность".

Определение сложности я вам уже давно привёл. Процитировал из Википедии. Спорить с ним вы не стали. Тогда предлагаю уже наконец забыть фантазии про не определённую мною сложность.

mihaild в сообщении #1633799 писал(а):

Никому, кроме Вас (и аналогичных около-философов) не нужно описание "красноты". Нужно описание, позволяющее предсказать, остановится Вася на красный сигнал светофора, или нет.

Около-философ - это же не комплимент, я правильно понимаю? Но тогда у вас ерунда получается. Я только что написал, а в теме привёл аргументы, что сознание суть сложность ЕИ, а значит, невыразимость сознания языком суть невыразимость мышления алгоритмом. Это во-первых. А во-вторых, сознание без малого поголовно всех интересует, а вы - не нужно. Вам бы надо было вначале доказать, что сознание с мозгом не связано или что его можно выразить языком, а потом уже про светофоры и около-философов рассуждать. А иначе, получается, что именно вы около-философ.

mihaild в сообщении #1633799 писал(а):

Довольно легко по нему определить, какие задачи нейронки не умеют решать сейчас. Я с закрытыми глазами составлю длинный список. Из них некоторые в общем-то понятно, как чинить (просто ни у кого руки не дошли), некоторые непонятно. Но как раз всегда речь о четких критериях, а не "общем впечатлении".

Вам известен некоторый набор конкретных задач, которые нейронки умеют решать и которые не умеют. Так? При этом есть задачи, которые нейронки решают лучше человека и которые хуже, так? Вам известна точная сложность всех этих задач? Если неизвестна, то на каком основании вы считаете, что нынешний ИИ ещё не СИИ?

Dicson в сообщении #1633796 писал(а):

Dmitriy40 в сообщении #1633748 писал(а):

Парадоксами (или даже аргументами) они считаются лишь философами, которые сами не понимают о чём говорят (характерный пример был выше: ваш коллега слился в пустое балабольство на простом вопросе "чем человек сложнее кирпича").

Во-первых, такого вопроса мне не задавали, а во-вторых, я сам на него ответил, по собственной инициативе. Впрочем, может быть, вы с моим ответом не согласны? Тогда приведите свой, пожалуйста. Покажите "философам", как не "сливаться в пустое балабольство".

Вы не ответили.

Dmitriy40 в сообщении #1633805 писал(а):

Вы очень плохо знаете что может и чего не может быть в программах. И никакими философскими рассуждениями этот пробел в знаниях не перекрыть.

Программы так перестраиваться не умеют, это факт. И дело здесь не философии, а в том, что речь идёт о принципиально разных физических системах. Это уже обсуждалось в начале темы.

Dmitriy40 в сообщении #1633805 писал(а):

Я уже говорил что ваше хвалёное квалиа - ненаучно потому что необъективно, а наука не занимается необъективными вещами. Это если про красноту красного.

Вы пишете о необъективности сознания и тут же ниже рассказываете, как его описать и моделировать. Как это понимать, такую логику? Если явление можно описать, есть его модель, теория, то оно объективно существует, не так ли? Так, по-вашему, существует сознание или нет? (В том смысле, конечно, как вообще что-то существует, а то вы ещё напишете, что вообще ничего не существует, мы наблюдаем только тени реального мира.).

В общем, похоже, вы просто не понимаете глубины проблемы. Описать - это значит так выразить, чтобы и другие поняли, чтобы передавать знание можно было. Неважно, в данном случае научная это теория, программа или описание на естественном языке. Так вот, попробуйте объяснить красноту красного цвета тому, кто никогда не видел ничего красного. Или опишите звук рояля тому, кто его никогда не слышал. Так опишите, чтобы человек смог красный цвет и звук рояля ощутить так же, как вы сами это всё ощущаете. Ничего не выйдет. Ни словами, ни числами, сколько бы их ни было. Но сознание же связано с мозгом, оно ведь не само по себе? А если связано, то и работу мозга тоже нельзя описать. Но ИИ - это алгоритм, а алгоритм - это язык.

Что касается параметров, которые важны в описании мозга, то все они, естественно, неизвестны. И не могут быть известны. В этой теме приведены аргументы на это счёт и не только связанные с "краснотой красного". Учитывая, что вы участвуете в обсуждении, вы их читали, но с ними не согласны. Так возьмите и опровергните их явным образом.

[Dedekind]

Dicson в сообщении #1633807 писал(а):

Определение сложности я вам уже давно привёл.

А можете привести ещё раз? Только определение, не растекаясь по дереву философии. Потому что вы пишете очень много всяких рассуждений, но все они не имеют смысла, пока не зафиксированы входящие в них первичные термины.

[ozheredov]

Dedekind в сообщении #1633813 писал(а):

А можете привести <определение сложности> ещё раз?

Dicson в сообщении #1630160 писал(а):

Общее такое: "Сложность - характеристика, отражающая степень трудности для понимания, создания и верификации системы или элемента системы[1]; степень трудности понимания и решения проблемы, задачи. Сложность системы или элемента системы может быть выражена через сложность соответствующих проблем и задач их понимания, создания и верификации."

Сложность - это степень трудности, а трудность - степень сложности.

[Dedekind]

ozheredov в сообщении #1633815 писал(а):

Dicson в сообщении #1630160

писал(а):
Общее такое: "Сложность - характеристика, отражающая степень трудности для понимания, создания и верификации системы или элемента системы[1]; степень трудности понимания и решения проблемы, задачи. Сложность системы или элемента системы может быть выражена через сложность соответствующих проблем и задач их понимания, создания и верификации."

Dicson, серьезно, это Ваше определение? И Вы еще удивляетесь, почему Вас не понимают?:)

[ozheredov]

Dedekind в сообщении #1633816 писал(а):

Dicson, серьезно, это Ваше определение?

Цитата из статьи под названием "Сложность" в Випипедии:
https://ru.wikipedia.org/wiki/%D0%A1%D0 ... 1%82%D1%8C
Там еще есть несколько цитируемых Dicson абзацев, например:

Википедия писал(а):

сложность задачи, равная количеству шагов, необходимых для решения отдельной задачи

Пример применения: сравнить сложность человека и кирпича. Кирпич:

1. Регистрируем компанию по производству кирпича.
2. Платим проверяющим комиссиям сколько попросят.
3. Даем объявление о найме глиномесов (в хорошем смысле слова).
4. Строим завод.
5. Изобретаем плавление железа.
6. Строим чертеж экскаватора.
7. Делаем из железа экскаватор.
8. Выкапываем глину.
9. Второй раз изобретаем плавление железа.
10. Строим чертеж печки для обжига.
11. Делаем печку из железа.
12. Замешиваем глину.
13. Поджигаем печку.
14. Суем в нее кирпич.
15. Достаем кирпич.
16. Тушим печку.

Человек:

1. Делаем всяко-разное за закрытой дверью, через 9 месяцев едем в роддом забирать готовый продукт.

Кирпич в 16 раз сложнее человека.

[Outer]

Dmitriy40 в сообщении #1633748 писал(а):

И выходит что сознанием (в понимании нейронаук) обладает не только человек, но и многие животные, в том или ином виде.

С чем я полностью согласен.

Более того, я считаю, что сознанием обладают не только животные, но и и все живые организмы, включая растения, бактерии, а также отдельные клетки многоклеточных организмов. На всякий случай, уточню, что под сознанием я понимаю наличие субъективного опыта (т.е. квилиа), - а вовсе не умение делать сложные расчёты, решать системы уравнений, оперировать битами и байтами и т.д. (большинство живых организмов этого не умеет, хотя у них есть квилиа). Что касается альтернативных носителей, то уже существуют простейшие организмы с искусственным геномом (пример - Хатимодзи-ДНК), - а это значит что в скором времени могут появиться и многоклеточные организмы на таких "альтернативных носителях", которые тоже будут иметь квилиа.

Но в данной дискуссии мы говорим не о них, а о компьютерах и ИИ-системах, которые сводятся к битам и байтам. И я привожу доказательства того, что они (в отличие от искусственных биологических организмов) - никогда не будут иметь личный опыт. Участник Dicson говорит о том же.

Dmitriy40 в сообщении #1633748 писал(а):

Насколько мне известно нормального (объективно проверяемого!) определения сознания философы за сотни лет так и не явили миру. Потому для вас любой ИИ - СИИ! Вы просто не можете их различить из-за отсутствия критерия отличия.

Если нет такого критерия отличия, - то почему Вы утверждаете что СИИ (т.е. ИИ имеющий сознательный опыт) возможен?
А если Вы утверждаете не это, а то что ИИ со временем будет способен решать всё более сложные задачи, - то с этим здесь вроде никто не спорит.

Dmitriy40 в сообщении #1633748 писал(а):

Если речь про сильный ИИ, то по отсутствию его проигрыша людям в любой (т.е. во всех проверенных) области. Если ИИ ни в чём не уступает ЕИ (и речь не про секс и размножение биологическим путём!) - значит это сильный ИИ. По определению сильного ИИ.

Читаем что написано в статье Китайская комната:

Цитата:

Таким образом Сёрл заключает, что хотя такая система и может пройти тест Тьюринга, но при этом никакого понимания языка внутри системы не происходит, а значит тест Тьюринга не является адекватной проверкой мыслительных способностей. Доводы Сёрла направлены на критику позиции так называемого «сильного» искусственного интеллекта, согласно которой компьютеры с соответствующей программой на самом деле могут понимать естественный язык, а также обладать другими ментальными способностями, свойственными людям. Гипотеза слабого искусственного интеллекта, напротив, говорит лишь о том, что компьютеры способны имитировать ментальные способности человека. ...Более общий вывод Сёрла говорит о том, что любые манипуляции с синтаксическими конструкциями не могут приводить к пониманию[1].

А если для "отсутствия его проигрыша людям в любой (т.е. во всех проверенных) области" - компьютерам вовсе необязательно иметь сознание, то из этого следует очевидный вывод - сознание живых существ (квилиа) построено на совершенно других принципах.

Dmitriy40 в сообщении #1633748 писал(а):

В курсе. И как мне кажется нейронауки все их уже опровергли....
Кстати аргумент про китайскую комнату уже прямо опровергнут - ИИ достаточно хорошо переводят с языка на язык, чего якобы невозможно без понимания смысла текста, а значит ИИ уже понимает смысл текста. Либо его не понимаем и мы сами, выбирайте.

Он не опровергнут. В той статье (Китайская комната) как раз таки написано, что для перевода текста понимание этого текста компьютерной программой вовсе необязательно.

А если говорить про другой аргумент (Комната Марии), то есть более наглядный пример, чем опыт восприятия красного цвета. Например, у человека нет опыта восприятия радиоволн, - и этот опыт никак не может появиться в процессе их изучения, независимо от количества прочитанных книг. А это значит, по аналогии, что никакие квадриллионы битов и байтов информации, загружаемых в компьютер, также не приведут к появлению у него сознательного опыта.

Dmitriy40 в сообщении #1633748 писал(а):

Вы достали со своим требованием 100% идентичности в реальном мире.

Я не говорил о 100% идентичности. Гравитацию на компьютере можно достаточно легко симулировать с практически любой (99,9999...%) точностью, - но Вы же понимаете, что такой компьютер не станет производить гравитацию. И я думаю, Вы тоже догадываетесь, что причина не в долях процента, которых ему якобы не хватает, - а совсем в другом. Аналогично, если говорить про сознательный опыт, - то на компьютерах невозможно его симулировать вообще (даже доли процента сознательного опыта), независимо от мощности компьютера.

А если Вы с этим не согласны, то приведите пример как можно создать ИИ который будет иметь 1% или 0.000....01% сознательного опыта (человека, или хотя бы бактерии).

Dmitriy40 в сообщении #1633748 писал(а):

Никто и доказывать не будет, это просто лишнее. Достаточно что сознание очевидно сводится к электрическим и химическим процессам в системе конечной сложности (кора головного мозга). А уже это вполне себе описывается числами и формулами, которые представимы в виде битов и байтов. Или вы настаиваете что сознание - не объективно, парапсихология, душа и всё такое? С этим в сад или церковь.

Я считаю, что сознание объективно, но оно не сводится к битам и байтам, поэтому на компьютерах его получить нельзя. Если вернуться к примеру с силой тяжести, то ведь её тоже нельзя свести с тем явлениям, которые были известны научному миру до Ньютона.

[mihaild]

Dicson в сообщении #1633807 писал(а):

Спорить с ним вы не стали

Врёте.

mihaild в сообщении #1630166 писал(а):

Dicson в сообщении #1630160 писал(а):

По-моему, вполне достаточно

По-моему нет. Вот у меня на столе лежит кирпич. Исходя из Вашего определения, определите его примерную, с точностью хотя бы до десятичного порядка, сложность.

mihaild в сообщении #1632873 писал(а):

Вы не приводили определение сложности, которое позволяет посчитать сложность хоть для чего-то

Dicson в сообщении #1633807 писал(а):

А во-вторых, сознание без малого поголовно всех интересует

[citation needed]
(естественно есть еще "сознание" у биологов, психологов и медиков, но у них оно нормально определено, никакого "ощущения красноты" там нет, и связь с мозгом доказана)

Dicson в сообщении #1633807 писал(а):

Вам известен некоторый набор конкретных задач, которые нейронки умеют решать и которые не умеют. Так?

Да.

Dicson в сообщении #1633807 писал(а):

При этом есть задачи, которые нейронки решают лучше человека и которые хуже, так?

Да.

Dicson в сообщении #1633807 писал(а):

Вам известна точная сложность всех этих задач?

Нет. И йклмновость этих задач тоже неизвестна.

Dicson в сообщении #1633807 писал(а):

Если неизвестна, то на каком основании вы считаете, что нынешний ИИ ещё не СИИ?

А я вообще не рассуждаю в таких терминах.
Я знаю, что нынешние модели не решают конкретные задачи, которые хотелось бы, чтобы умели. И работаю над тем, чтобы начали решать. Прогресс какой-то есть. А что там с ИИ, СИИ, ЕИ, сложностью, сепульками и квалиа - меня интересует лишь постольку, поскольку это связано с конкретными задачами.

Dmitriy40 в сообщении #1633805 писал(а):

Добавим химические регуляторы и не совсем пока понятные другие структуры мозга и получим уж всяко не больше квадриллиона параметров

Ну чисто формально состояние каждой клетки априори очень большое, и то, что его можно свести к не слишком большому числу параметров, так нахаляву получить нельзя, надо детально в нейрон залезать. Но вроде бы если залезть, то получается (по крайней мере 10 лет назад получалось, не знаю, не изобрели ли с тех пор новых проблем).

-- 23.03.2024, 10:13 --

Outer в сообщении #1633825 писал(а):

из этого следует очевидный вывод - сознание живых существ (квилиа) построено на совершенно других принципах

А из этого следует еще более очевидный вывод - сознание по Сёрлу и Чалмерсу ненаблюдаемо. Соответственно непонятно, зачем его обсуждать, давайте лучше про дракона в моем гараже поговорим.

[druggist]

Dicson в сообщении #1633796 писал(а):

Причём мышление не просто континуум, а неравновесный, способный скачком перестраиваться в новое упорядоченное состояние. Что мы наблюдаем в своём сознании, где мысли меняются скачком (или - внимание переключается скачком) и всегда не беспорядочны. В программах такого тоже быть не может.

Это нормальный режим работы т.н. энергетической сети Хопфилда с аттракторами. Чувствуется , что от ячеек Бенара в качестве объяснительного принципа ваши познания мало отошли...

[Outer]

mihaild в сообщении #1633826 писал(а):

А из этого следует еще более очевидный вывод - сознание по Сёрлу и Чалмерсу ненаблюдаемо. Соответственно непонятно, зачем его обсуждать, давайте лучше про дракона в моем гараже поговорим.

Раз большинство участников данной дискуссии согласно с тем, что ЕИ является сильным интеллектом и обладает сознанием, - значит сознание наблюдаемо. Значит, надо разобраться в чём именно состоит сознание, и найти для него подходящую формулировку, а не пытаться свести его к битам и байтам - что очевидно не работает.

С гравитацией та же картина - наблюдать ее можно, но свести к битам и байтам нельзя. Компьютер, напичканный информацией о гравитации, не станет гравитировать.

[Dicson]

Dedekind в сообщении #1633816 писал(а):

Dicson, серьезно, это Ваше определение? И Вы еще удивляетесь, почему Вас не понимают?:)

По поводу того, как меня "не понимают", есть анекдот. Как в советское время, когда был дефицит, мужик перчатки покупал. Вот, продавщицы его точно так же "не понимали", как и вы с товарищами меня не понимаете.

Поэтому или пишите по существу, или я вам просто не буду отвечать. Если у вас есть претензии к определению, то какие конкретно, как конкретно эти претензии влияют на мои аргументы? И так далее, что вас там ещё не устраивает.

ozheredov в сообщении #1633820 писал(а):

1. Делаем всяко-разное за закрытой дверью, через 9 месяцев едем в роддом забирать готовый продукт.

Dedekind уже приводил этот секс-аргумент из детского сада. Anton_Peplov его даже в Цитатник внёс. Поэтому поищите, что я на него Dedekind-у ответил, а заодно, может, и ваш вариант этой чуши тоже в Цитатник попадёт.

mihaild в сообщении #1633826 писал(а):

По-моему нет. Вот у меня на столе лежит кирпич. Исходя из Вашего определения, определите его примерную, с точностью хотя бы до десятичного порядка, сложность.

И я вам ответил: "Я уже приводил определение сложности. Но, если хотите, в его контексте можно пояснить и "на кирпиче". Найдите глину, заместите, сделайте кирпич. Сколько времени это отняло? Шагов, операций? Вот создание СИИ невозможно никакими методами, ни за какое время, никаким количеством операций. Такая это сложная штука. Вопрос только в том, как это доказать. Доказательство в посте выше, а ниже ещё один его вариант." То есть сложность кирпича можно выразить в "...Сколько времени это отняло? Шагов, операций?" Что здесь неясного?

mihaild в сообщении #1633826 писал(а):

[citation needed]

Нет, не требуется. Интерес народа к сознанию очевиден.

mihaild в сообщении #1633826 писал(а):

(естественно есть еще "сознание" у биологов, психологов и медиков, но у них оно нормально определено, никакого "ощущения красноты" там нет, и связь с мозгом доказана)

Тут одно из двух. Или вы настолько не понимаете, о чём в теме идёт речь, или хотите увести её в сторону. В любом случае давать комментарии к этому высказыванию не целесообразно. По крайней мере пока вы не поясните его значение для обсуждаемых в этой теме вопросов подробнее.

mihaild в сообщении #1633826 писал(а):

А я вообще не рассуждаю в таких терминах.

В среде специалистов считается, что СИИ ещё не создан. Вы согласны с этим? Тогда на каком основании специалисты так считают, они же не могут сравнить сложность непосредственно?

Другими словами, специалисты (да и вообще более или менее разбирающиеся в теме люди), даже без точного представления о сложности ИИ и ЕИ, тем не менее в высокой степени уверены, что нынешний ИИ проще ЕИ, то есть СИИ ещё не создан. Мои аргументы говорят, что по тем же самым причинам так всегда и будет. И точно так же, как люди обходятся без точного сравнения сложности систем, но тем не менее уверены, что одна сложнее, а другая проще, точно так же без точного сравнения сложности обходятся мои аргументы, но тем не менее их выводы очевидны. Прочитайте их и сами это поймёте.

druggist в сообщении #1633830 писал(а):

Это нормальный режим работы т.н. энергетической сети Хопфилда с аттракторами. Чувствуется , что от ячеек Бенара в качестве объяснительного принципа ваши познания мало отошли...

А должны отойти? Есть в сети Хопфилда неравновесные фазовые переходы? Именно о них шла речь.

[ozheredov]

Dicson в сообщении #1633836 писал(а):

поищите, что я на него Dedekind-у ответил

Вот это:

Dicson в сообщении #1629732 писал(а):

Нет, не создают. Они сами появляются.

Создавать - это с помощью интеллекта. В целом, чем больше работу системы определяет написанный человеком алгоритм, тем больше она искусственная, и тем проще, по отношению к интеллекту человека, она будет. Сложности, сравнимой с человеком, поэтому может достичь только та система, в создании которой интеллект человека не участвует. То есть никак не ограничивает её сложностью своих знаний, которые всегда проще сложности самого человека, его интеллекта. Тут тоже могут потребоваться пояснения (ведь весь мозг, как и любая нейронная сеть, - это опыт, знания), но, если коротко, чем сложнее знание, тем сложнее его "вытащить" из мозга и использовать для создания ИИ. В результате то, что мы создаём, мы создаём из простого в себе, получая такое же простое, по отношению к себе.

Я ровно это и написал - человек проще пареной репы и создается за один шаг. А Вы говорите "чушь".

Dicson в сообщении #1633836 писал(а):

Если у вас есть претензии к определению, то какие конкретно<?>

Принципиальная невозможность сравнить между собой объекты по фигурирующему в Вашем определении параметру. Смотрите: допустим, есть два объекта А и В (для простоты они оба рукотворны). Алгоритм сравнения: вычисляем количество шагов для создания А, для создания В (де-факто длину техзадания в словах), сравниваем эти числа - у кого длинее (последовательность шагов), тот и сложнее. Однако, что считать за один шаг? Добыть глину для кирпича - это один шаг или много (нанять транспорт, поставить будильник на 8 утра, проснуться в 8 утра, выпить кофе, спуститься во двор, сесть в машину, приехать на карьер, пересесть на экскаватор, запустить его, ..........)? Далее, что записывать в шаги? Переписать ли туда инструкцию по созданию печи, комплекс упражнений по накачке бицепсев глиномеса, и т.д.? Если нет, то на каком основании?

Существует родственное и при этом более-менее разумное определение сложности объектов в CS, но оно касается только "кампутерных" объектов, де-факто строк: это минимальная длина программы на заданном ЯП, печатающей заданную строку. Кирпич с человеком сравнить не получится, и нейронку с человеком тоже. Но можно построить такую аксиоматику:

- Два рукотворных объекта сравниваются по длине программы, симулирующей полезные свойства этих объектов с приемлемой для заказчика точностью.
- Для пары "рукотворный объект" - "автор симулирующей его программы" автор всегда сложнее (это придется доказать!)
- Остальные пары неупорядочены.

Пойдет?

[Dmitriy40]

Dicson в сообщении #1633807 писал(а):

Вы не ответили.

Согласен с mihaild.

Dicson в сообщении #1633807 писал(а):

Программы так перестраиваться не умеют, это факт. И дело здесь не философии, а в том, что речь идёт о принципиально разных физических системах. Это уже обсуждалось в начале темы.

Как "так"? Как нейросети в головном мозге? Умеют.

Dicson в сообщении #1633807 писал(а):

Вы пишете о необъективности сознания

Неправда, я пишу об необъективности квалиа, которое ну совсем не сознание.

Dicson в сообщении #1633807 писал(а):

Что касается параметров, которые важны в описании мозга, то все они, естественно, неизвестны. И не могут быть известны.

Координаты и скорости всех молекул газа тоже никогда никому не известны, что не мешает пользоваться законами термодинамики.

Outer в сообщении #1633825 писал(а):

На всякий случай, уточню, что под сознанием я понимаю наличие субъективного опыта (т.е. квилиа),

Это плохое определение, не указан смысл слова "субъективного", получается любая молекула имеет такой опыт, она ведь участвовала в каких-то химических реакциях и изменялась в них.
Судя по вашим словам вы совершено явно отсылаетесь исключительно к биологическим системам, могущим иметь такой опыт, хотя та же бактерия (которая по вашему его имеет) может хранить часть его в ДНК/РНК, которые просто молекулы, т.е. фактически как раз ДНК/РНК тоже имеют квалиа, а это уже как-то ну совсем перебор.
И тогда абсолютно непонятно почему опыт не может кодироваться битами/байтами в виде зарядов на флешке. Выходит что и флешка имеет субъективный опыт, даже без компьютера.
Нет, плохое определение.

Outer в сообщении #1633825 писал(а):

Если нет такого критерия отличия, - то почему Вы утверждаете что СИИ (т.е. ИИ имеющий сознательный опыт) возможен?

Я говорю не о ИИ с сознательным опытом, а об сильном ИИ.
Критерия же нет у вас, не у меня. Я свой критерий (вообще говоря общепризнанный) сформулировал, чем СИИ (сильный ИИ) отличается от ИИ.

Outer в сообщении #1633825 писал(а):

А если для "отсутствия его проигрыша людям в любой (т.е. во всех проверенных) области" - компьютерам вовсе необязательно иметь сознание, то из этого следует очевидный вывод - сознание живых существ (квилиа) построено на совершенно других принципах.

Сознание - не квалиа!
И вывод очевидно другой - что и у других организмов мы понимаем под сознанием что-то неправильно или другое или вообще оно необъективно, раз не можем отличить его отсутствие от его присутствия.

Outer в сообщении #1633825 писал(а):

А если Вы с этим не согласны, то приведите пример как можно создать ИИ который будет иметь 1% или 0.000....01% сознательного опыта (человека, или хотя бы бактерии).

Приведите определение сознательного опыта. А то любая молекула его имеет.

mihaild в сообщении #1633826 писал(а):

Ну чисто формально состояние каждой клетки априори очень большое, и то, что его можно свести к не слишком большому числу параметров, так нахаляву получить нельзя, надо детально в нейрон залезать. Но вроде бы если залезть, то получается (по крайней мере 10 лет назад получалось, не знаю, не изобрели ли с тех пор новых проблем).

Ну я конечно несколько упростил, но вроде бы нейрон достаточно простая штука, если рассматривать как чёрный ящик, реагирующий на внешние сигналы (не только синапсы). Да, не простой сумматор с весами как сначала думали, но и не сильно сложнее, и вроде как без памяти внутри, память как я понимаю (возможно и неправильно) обеспечивается изменением проводимости синапсов, а не внутри нейрона. Порядок сложности я накинул на химические сигналы и на нейроглия (появляются данные что и они участвуют в обработке информации, а не просто поддержка жизнедеятельности нейронов). В общем да, согласен, рукомахательство. Но со стороны оппонентов нет даже таких грубых оценок, даже определения сложности.
С другой стороны оценка под квадриллион (ну или сотни триллионов) параметров близка к правде по мнению специалистов, они прямо говорят что текущие нейронки достигли где-то 1% сложности ЕИ, учитывая что сознание занимает по их же оценкам порядка 10%, как раз и получается три порядка разницы.

Outer в сообщении #1633833 писал(а):

Компьютер, напичканный информацией о гравитации, не станет гравитировать.

Это кстати тоже неправда: информация вполне имеет вес/массу и соответственно является источником гравитации. Потому же кстати есть верхний предел на плотность информации, иначе всё схлопнется в чёрную дыру. Только вес байта настолько мал, что обнаружить его пока не удалось, слишком мало у нас байтиков в каждом компе. Ну и гравитировать будет любая информация, не обязательно про гравитацию.

Dicson в сообщении #1633836 писал(а):

Что здесь неясного?

Всё. Определение "шага/операции"? В каких единицах измерять время? Почему в них? И вот это тоже:

Dicson в сообщении #1633836 писал(а):

Вот создание СИИ невозможно никакими методами, ни за какое время, никаким количеством операций. Такая это сложная штука.

Это очевидно неправда: природа и общество справляется с созданием сильного И (ЕИ) за конечное количество операций и конечное время. Так что сложная, но не невообразимо сложная как вам почему-то кажется. И можно указать верхние оценки сложности и по ним прикинуть когда компы и нейронки доберутся до этой границы. Нет тут никакого принципиального запрета, как бы вам ни хотелось. Возникнет ли у них сознание и станут ли они СИИ - вопрос. И больше даже не технический, а определений, сможем ли мы хоть как-то отличить СИИ от ИИ и от ЕИ. Я вангую что не сможем, как уже сейчас не можем отличить ИИ от ЕИ во многих вопросах (типа распознавания изображений или перевода текстов). Т.е. средний человек с улицы не может, специалисты то конечно знают на что смотреть.

ozheredov в сообщении #1633844 писал(а):

- Для пары "рукотворный объект" - "автор симулирующей его программы" автор всегда сложнее (это придется доказать!)

Не пойдёт - Вы аксиоматизируете превосходство ЕИ над любыми ИИ/СИИ, хотя это и собираетесь доказывать.
Плюс биологическая эволюция прямо опровергает этот тезис: в процессе создаются всё более сложные системы, т.е. сложнее автора/родителя. Т.е. есть минимум один пример когда утверждение точно не работает. И нет никаких принципиальных запретов устроить эволюцию небиологических систем (да хоть объектов в игре Конвея Жизнь!) и получить такое же самоусложнение систем без всякого воздействия автора начальной конфигурации или установленных законов. Просто это ну очень долго, миллиарды лет и триллионы шагов каждую секунду, столько нам ждать лениво. Хотя отдельных примеров самоусложнения систем под воздействием внешних факторов у нас полно, да любая нейронка им является: изначально это просто регулярный массив одинаковых элементов и целевая функция, а в процессе обучения происходит усложнение внутренней структуры, уже без влияния автора и создателя.
Ровно потому же и все аргументы о невозможности создания СИИ сложнее автора (ЕИ) опровергаются прямыми примерами обратного. Но философам не понять, у них фетиш ЕИ (и строго биологической основы любого интеллекта/сознания/квалиа и ещё кучи бессмысленных в их аксиоматике слов).

-- 23.03.2024, 16:15 --

Dmitriy40 в сообщении #1633848 писал(а):

Хотя отдельных примеров самоусложнения систем под воздействием внешних факторов у нас полно,

Например продемонстрировано самоусложнение химических веществ вплоть до появления биологических молекул (даже аминокислот) из однородной смеси простых исходных веществ. До появления РНК не добрались, но это дело лишь времени, принципиальных запретов нет. А РНК - это уже точно живое. И дальше эволюция и ЕИ.

[ozheredov]

Dmitriy40 в сообщении #1633848 писал(а):

Не пойдёт

Я там неточно выразился - это аксиоматика Dicson, из которой выводится превосходство ЕИ над ИИ. Скажем, набор постулатов, которые он по-видимому не подвергаеот сомнению - фундамент рассуждений. В скобочках я заметил, что второе утверждение неочевидно и его придется доказать.

-- 23.03.2024, 16:43 --

Dmitriy40 в сообщении #1633848 писал(а):

Плюс биологическая эволюция прямо опровергает этот тезис: в процессе создаются всё более сложные системы, т.е. сложнее автора/родителя.

Он Вам скажет, что биологическая эволюция работает не так, как человеческие изобретения. У него в голове иерархия

Бог(который совр. философы подменяют на Эволюцию, Природу, Объективную реальность и т.д.) >> Человек >> Наука и техника.