"Сознание становится объектом физического исследования"

[EUgeneUS]

dvb в сообщении #1293522 писал(а):

Только пара слов. Сознание - это совокупность взаимодействующих моделей, реализуемых на "железе" мозга. Одна из основных моделей - ДИНАМИЧЕСКАЯ модель внешнего мира. Эта модель непрерывно корректируется и проигрывается в нашем мозгу, что позволяет нам ПРОГНОЗИРОВАТЬ варианты нашего взаимодействия с этим миром и осуществлять ВЫБОР поведения. Но чтобы этот выбор делать, нужно уметь чего-то ХОТЕТЬ. А хотеть нужно чем-то, для этого нужно иметь действующую модель себя самого, то есть, модель "Я".

Подобные рассуждения у меня вызывают образ ракеты ПВО.
1. Есть ли в ракете модель окружающего мира? Безусловно.
2. Является ли она (модель окружающего мира) динамической, то есть учитывающей изменения в окружающем мире? Конечно.
3. Прогнозирует ли ракета изменения окружающего мира? Конечно.
4. Происходит ли выбор поведения в зависимости от изменения окружающего мира (и построенных прогнозов)? Конечно, если ракета не управляется радиокомандами.
5. Есть ли в ракете "действующая модель себя самого"? Есть, если предусмотрена система самодиагностики.
6. ХОЧЕТ ЛИ ракета поразить самолет? А почему нет? Это цель её существования.

Ракета обладает сознанием?

[yafkin]

Someone в сообщении #1293404 писал(а):

Неверно. Если рассуждения об объекте не приводят к противоречию, то объект может существовать, но может и не существовать.
В классической математике есть два способа доказать существование объекта:
1) если предположение о том, что объект не существует, приводит к противоречию с аксиомами теории;
2) если возможно построение объекта с использованием принятых аксиом.
В конструктивной математике для доказательства существования объекта требуется его явное построение, причём, смысл слова "явное" существенно зависит от направления конструктивизма (а их довольно много). Ситуация, когда предположение о несуществовании объекта приводит к противоречию, в конструктивизме формулируется словами "не может не существовать", и отличается от утверждения "объект существует"; как будто бы есть и какие-то промежуточные градации понятия "существует".

Благодарю за уточнение. Просто на физическом форуме пытался писать покороче.

[Xey]

dvb в сообщении #1293522 писал(а):

Что такое "стул"? Это то, на чем сидят

Это кажется отсюда

Xey в сообщении #911882 писал(а):

стул это то, на чем сидят

dvb в сообщении #1293522 писал(а):

Эта модель непрерывно корректируется и проигрывается в нашем мозгу

А это от Метцингера. Только он не говорит, перед кем "проигрывается в нашем мозгу". Вы тоже вряд ли это поясните,
все в это упираются.

[dllzero]

dvb в сообщении #1293522 писал(а):

"Аналитический" метод предполагает, в первую очередь, не определение, что такое сознание, а каковы его функции.

Это так называемое функциональное определение.

dvb в сообщении #1293522 писал(а):

модель "Я"

Возможно, вы имеете в виду процесс рефлексии. "Я" здесь будет социально детерминированным, т.е. ровно таким же следствием "прогнозов" и определения внешней действительности, как и всё остальное. Это можно подтвердить в социологии, психологии, феноменологии и так далее. Если не ходить далеко, то "Я" понимается как та или иная личность, появившаяся в ходе социализации и являющая собой систему социальных установок (как пример, габитус).
То есть, ту же абстрактную ракету ПВО можно научить моделировать саму себя, исходя из данного факта и используя метод обучения с подкреплением. Система самодиагностики в данном случае будет немного другой вещью.

EUgeneUS в сообщении #1293523 писал(а):

ХОЧЕТ ЛИ ракета поразить самолет

Аппетенция и цель системы - разные понятия, которые не стоит путать.

В данном случае изобретатель ракеты, её инженер-конструктор и её тестировщик, а также система, которая составила заказ на изобретение ракеты и её производство - это они хотят, чтобы она поражала самолёт. Сама же ракета просто подчиняется строго детерминированному алгоритму (если в ней нет undefined behavior), т.е она ничего не хочет. Это будет паттерн поведения, который не изменится до того момента, пока не будет обновлена сама система ракеты (будь то программная или программно-аппаратная её составляющая). Всё это просто потому, что от ракеты ожидают определённое или сравнительно просто определяемое поведение, и такое поведение будет целью системы.

Переводя в исходные термины, в данном случае система будет следовать детерминированному алгоритму, даже если это сознательное существо. Конкретно у сознательных существ подобные вещи обнаружить сложнее, но они являются выявляемыми, и данное изучается этологией, когнитивной этологией и социологией. Отличие в том, что здесь паттерны изменяются постоянно в целом в ходе истории, так как их формирование имеет эволюционную основу, и поэтому речь идёт не о конечных моделях взаимодействия, а об устоявшихся в определённом контексте, а также о конкретных механизмах их формирования.

То есть, следуя данным паттернам здоровые сознательные существа, подчиняющиеся данным паттернам, вне зависимости от того, что каждый из них из себя представляет в конкретном случае, ведут себя одинаково. Примерно как ракеты, если бы они содержали в себе эволюционные (например, генетические) алгоритмы, однако никто не будет возражать, что цели данных систем будут различными. Цель живых систем - в первую очередь выживание.

Много кто также скажет, что сознательные существа обладают большей степенью индетерминированности, но, во-первых, не в этом суть, во-вторых, следует для каждого такого возражения указать конкретную предметную область, и в-третьих - для каждого возражения, у которого предметная область определена, должно быть достаточное основание для возражения.

Аппетенция же является следствием поведения сложной системы, в которой уже появились функции поиска стимула, в конечном счёте сводящегося к удовлетворению тех или иных потребностей данной сложной системы. Сложные формы аппетенции позволяют говорить уже о собственной мотивации конкретной системы (а не некоторой метасистемы, например, популяции, правилам которой подчиняется сама система), т.е. данная система фактически будет уже сама ставить себе задачи и сама создавать для них решение, и, насколько я знаю, данное является критерием естественного интеллекта, и уже только тут можно будет говорить, что система хочет тех или иных вещей, и совершенно не обязательно, что данные вещи имеют простую природу: например, любой социальный сигнал имеет сложную архитектуру и сложную форму представления.

Когда инстинктивное действие становится настолько сложным, что формирует желания (и механизмы реагирования на психосоциальные сигналы, более сложные, чем сигналы от той же популяции), которые в некотором роде могут даже подавлять некоторые наборы инстинктов (как у человека) - давно известный научный вопрос. В упрощённом виде это связывают с неокортексом и его аналогами. В более проработанном виде наличие неокортекса или его аналога не считается обязательным, так как существуют примеры животных систем, где неокортекс/аналог никак не фигурирует, однако сами системы умеют ставить самостоятельно себе задачи и их решать, а также определять, смогут ли они в принципе эту задачу решить или нет (а это метакогниция). Примером будут те же пчёлы или муравьи. Однако те же муравьи или пчёлы работают в таком режиме, судя по всему, только коллективно (в некотором роде довод против элиминативистов), когда как неокортекс или его аналог является своего рода гарантом более индивидуального поведения.

В общем и целом, если некий программист научит ракету ПВО самостоятельно создавать себе задачи, реализовав достаточно сложную модель взаимодействия со средой и своими же собственными датчиками, а это важно - тогда будет в принципе возможно говорить о сильном AI в контексте данной ракеты, однако совершенно не факт, что AI будет действительно сильным (имеющим сознание и самосознание), а не просто очень проработанным. Но в любом случае вряд ли кому такая ракета будет нужна.

[EUgeneUS]

dllzero в сообщении #1293557 писал(а):

Аппетенция и цель системы - разные понятия, которые не стоит путать.

В данном случае изобретатель ракеты, её инженер-конструктор и её тестировщик, а также система, которая составила заказ на изобретение ракеты и её производство - это они хотят, чтобы она поражала самолёт.

Однако, наблюдая поведение ракеты, мы не можем сказать: это ракета хочет поразить самолет, или бог-создатель.

dllzero в сообщении #1293557 писал(а):

Сама же ракета просто подчиняется строго детерминированному алгоритму (если в ней нет undefined behavior), т.е она ничего не хочет.

Вы плохо думаете о ракетах.
Продолжаем развивать системы ПВО.
1. Противник ставит помехи разные и в разных дипазонах.
2. Разработчики упарились писать детерминированные алгоритмы ("if - then", "switch - case") и позвали "дата-сайнтистов", которые обучили нейронную сеть.
3. Испытания показали,
а) ракета определяет чужой самолет в 99% случаев, в 0.9 % она принимает его за свой, а в 0.1% - вообще не видит.
б) если самолет определен, как чужой, то ракета его сбивает в 90% случаев.
в) в 0.1 % случаев она определяет заблудившийся мирный лайнер компании KAL, как вражеский разведчик. А в половине из них - сбивает его.
в) указанные числа зависят от уровня помех, их типа, угла солнца над-под горизонтом и погоды на Марсе, но всегда остаются в пределах, заданных в ТЗ.
Вот и undefined behavior появилось.
Сознания всё еще нет?

[dllzero]

Xey в сообщении #1293551 писал(а):

Вы тоже вряд ли это поясните, все в это упираются.

Уточните вопрос.

[EUgeneUS]

dllzero в сообщении #1293557 писал(а):

Цель живых систем - в первую очередь выживание.

А в соседней теме, со ссылкой на Докинза, говорилось, что целью живых систем является размножение генов.

[dllzero]

EUgeneUS в сообщении #1293564 писал(а):

бог-создатель

Богом-создателем будут обычные люди, уже указанные. Это они создали систему, а не система образовалась сама собой, т.е. система по определению искусственная. Целью искусственных систем является то, что вкладывали в систему создатели. Обычная самонаводящаяся ракета никакой аппетенции не имеет, она по определению ничего не хочет. Было бы странно, если бы люди начали судить ракету за то, что она кого-то сбила и при этом взорвалась. Это не Dark Star Карпентера.

EUgeneUS в сообщении #1293564 писал(а):

обучили нейронную сеть

Нейронная сеть является является чем-то из подобного: регрессионные, классификационные модели, байесовские или марковские сети, что-то в этом роде. Зависит от нейросети. Они все детерминированные, разве что учитывают влияние шума. Их базис стоит в том, что по множеству свободных переменных определять значение зависимых с учётом случайной переменной, распределённой по тому или иному закону. Кроме того, любая их теория описывается той или иной статистикой, по определению являющейся строго формальной. Введение нейросети или подобных подходов, может, и делает систему более гибкой, но она всё равно детерминирована и имеет легко определяемое поведение, описываемое вероятностной моделью (даже без использования нейросетей в реальных условиях любой подобный алгоритм описывается так).

Отдельным случаем будет нейроэволюция и некоторые другие сложные методы обучения (например, упомянутое обучение с подкреплением относительно того, что следует делать в той или иной ситуации), особенно если они разработаны комплексно. Тут будет изменяться не только результат, но и сам набор действий, т.е. поведение становится менее определяемым и в данном случае и на данном уровне абстрагирования менее детерминированным. То есть, нужно будет создавать вероятностную модель не только того, каков будет результат, а того, какой паттерн работы системой будет использован.

Для ракеты это всё равно будет вряд ли нужным. Для моделирования в определённой мере сильного AI - нужным. Для ракеты такой не требуется.

EUgeneUS в сообщении #1293564 писал(а):

Сознания всё еще нет?

Всё ещё нет. По указанным выше причинам. Кроме того, не путайте, кто давал такое определение сознания в данной теме. Это был не я, так что вопрос должен быть адресован не мне.

-- 21.02.2018, 14:25 --

EUgeneUS в сообщении #1293566 писал(а):

целью живых систем является размножение генов

Репликация генов - необходимое условие для их выживания. Если же ген не обладает свойством репликации, то цель выживания определена не за собственно его видом как таковым, а за информационной системой данного вида, и данная система существует столько долго, сколько факторов своей изменяющейся среды она может учитывать. Репликация же, насколько я знаю, реализует изменение стратегий такой информационной системы в соответствии со средой, так как обеспечивает передачу наследственной информации, и в совокупностью с возможностью мутации возникает наследственная изменчивость, что делает вероятным выживание самого вида. В любом случае лучше этот вопрос оставить генетикам-специалистам, а не рассуждать расхожим образом.

[dllzero]

Суть в том, что чтобы система могла хотеть, т.е. имела желания, т.е. имела функцию аппетенции, она должна быть действительно сложной (и что очевидно, реализовывать данную функцию, или функцию поиска стимулов, понуждающих удовлетворять потребности: "Мне нужно к водопою, так как там я могу утолить жажду"). Это как минимум.

Если система (и конкретно эта функция) очень сложна, то простая аппетенция становится функцией мотивации: "Я делаю это потому, что X". Эта функция непосредственно связана с самостоятельным созданием задач (исходя из потребностей), их постановкой и их решением, т.е. мотивация указывает, почему кто-то делает что-то, когда как сама мотивация происходит, просто говоря, из потребностей удовлетворять потребности, и всё это в принципе можно реализовать в обычном строго детерминированном комплексе алгоритмов (даже с учётом случайного шума - сами модели концептуально детерминированы, а результат их вывода при стохастическом подходе просто будет колебаться в определённых пределах: скажем, по правилу трёх сигм - но не более; в любом случае это просто математика, которая дедуктивно переходит от одних тавтологий к другим).

В принципе, на основе существующих научных фактов можно вполне говорить, что мы как раз-таки по подобному комплексу алгоритмов и работаем, можно даже условно выделить несколько разных механизмов (к одному из них относится, к примеру, реципрокный и обычный альтруизм, к смежному - импринтинг, к другому совсем - механизм принятия социальных решений, к которому будут отнесены непосредственно этические системы, и законы их становления изучаются эволюционной этикой), но из-за сложности данного комплекса на более высоком уровне абстракции данное поведение выглядит не очень детерминированным или даже очень недетерминированным образом (и именно поэтому есть большая критика детерминизма в социологии, психологии, культурологии и т.п. вещах). Но замечание касалось не того (в первейшую очередь), что что-то детерминировано чётко, а что-то из-за своей сложности уже выглядит индетерминированным, а того, что здесь спутались понятия цели системы и желания. Именно на это и было указано.

В принципе, если некий сумрачный гений наделит ракету ПВО собственным AI, который реализует функцию аппетенции, то ракета действительно сможет желать, исходя из определения. Но при этом ничто не говорит о том, что желать она будет обязательно разрушить тот или иной самолёт - всё зависит от архитектуры системы, входных и хранящихся данных, исходной цели системы, реализации, системно-аппаратных условий и т.п. Однако для ракеты это попросту непрагматично. При этом сведение сознания, грубо говоря, к желанию (и прогнозам) - это уже всё к пользователю dvb.

[EUgeneUS]

dllzero в сообщении #1293570 писал(а):

Богом-создателем будут обычные люди, уже указанные.

Отдельно, на полях, отметим, что проблема существования Бога, создавшего "машины для репликации генов" а) с научной точки зрения неразрешима, б) поэтому не рассматривается. Но, что если....?

dllzero в сообщении #1293570 писал(а):

Нейронная сеть является является чем-то из подобного: регрессионные, классификационные модели, байесовские или марковские сети, что-то в этом роде. Зависит от нейросети. Они все детерминированные, разве что учитывают влияние шума.

dllzero в сообщении #1293570 писал(а):

Отдельным случаем будет нейроэволюция и некоторые другие сложные методы обучения (например, упомянутое обучение с подкреплением относительно того, что следует делать в той или иной ситуации), особенно если они разработаны комплексно. Тут будет изменяться не только результат, но и сам набор действий, т.е. поведение становится менее определяемым и в данном случае и на данном уровне абстрагирования менее детерминированным. То есть,

Какое-то странное противопоставление между "нейронной сетью вообще" (из аналогии с ракетой) и каким-то специальным методом её обучения.
Если мне мой склероз не изменяет, обучение с подкреплением
а) не создает новых паттернов поведения (они заранее заданы).
б) может (но не обязано) использоваться для определения вероятностных правил ("если Икс, то Игрек с вероятностью Пэ, иначе Зет").

dllzero в сообщении #1293570 писал(а):

То есть, нужно будет создавать вероятностную модель не только того, каков будет результат, а того, какой паттерн работы системой будет использован.

Это умеют делать туповатые роботы для игрЫ в Игры которые играют люди, где нет оптимальный чистых стратегий, но есть смешанные. Техасский холдем, например. У этих роботов есть сознание?

dllzero в сообщении #1293570 писал(а):

Кроме того, не путайте, кто давал такое определение сознания в данной теме. Это был не я, так что вопрос должен быть адресован не мне.

Вопросы адресуются Вам постольку, поскольку Вы на них отвечаете.

dllzero в сообщении #1293570 писал(а):

Если же ген не обладает свойством репликации, то цель выживания определена не за собственно его видом как таковым, а за информационной системой данного вида, и данная система существует столько долго, сколько факторов своей изменяющейся среды она может учитывать.

Тут, честно говоря, потерялся.

dllzero в сообщении #1293570 писал(а):

В любом случае лучше этот вопрос оставить генетикам-специалистам, а не рассуждать расхожим образом.

Видимо. Но это не мешает, на "расхожем уровне" знакомиться с текущим состоянием дел у хороших популяризаторов (в данном вопросе: Марков и прочие).

dllzero в сообщении #1293621 писал(а):

Суть в том, что чтобы система могла хотеть, т.е. имела желания, т.е. имела функцию аппетенции, она должна быть действительно сложной (и что очевидно, реализовывать данную функцию, или функцию поиска стимулов, понуждающих удовлетворять потребности: "Мне нужно к водопою, так как там я могу утолить жажду"). Это как минимум.

Хорошо. Поясните на примерах. Человек умеет хотеть? А инфузория туфелька?

dllzero в сообщении #1293621 писал(а):

Если система (и конкретно эта функция) очень сложна, то простая аппетенция становится функцией мотивации: "Я делаю это потому, что X". Эта функция непосредственно связана с самостоятельным созданием задач (исходя из потребностей), их постановкой и их решением, т.е. мотивация указывает, почему кто-то делает что-то, когда как сама мотивация происходит, просто говоря, из потребностей удовлетворять потребности, и всё это в принципе можно реализовать в обычном строго детерминированном комплексе алгоритмов (даже с учётом случайного шума - сами модели концептуально детерминированы, а результат их вывода при стохастическом подходе просто будет колебаться в определённых пределах: скажем, по правилу трёх сигм - но не более; в любом случае это просто математика, которая дедуктивно переходит от одних тавтологий к другим).

Тут какая-то странная связь между сложностью и детерминированностью.
Если есть робот, который заточен для игрЫ, в которой нет чистой оптимальной стратегии, но есть смешанная, то он будет играть в смешанные стратегии, потому что он так устроен, или его так устроили. Этот робот может быть очень простым (его на Ардуино можно реализовать ), но его поведение по определению смешанных стратегий не будет детерминировано. У такого робота есть сознание?

UPD: "его на Ардуино можно реализовать ", да что там Ардуино, для некоторых игр такой робот реализуется честной монеткой. У монетки есть сознание?

[dllzero]

EUgeneUS в сообщении #1293636 писал(а):

Какое-то странное противопоставление

Ничего странного нет, так как некоторые методы обучения могут сильно менять картину. Так, один из классов нейроэволюционных подходов позволяет изменять топологию сети. Это будет уже не конкретная регрессионная модель, действие которой проще предсказать. Нечёткое разделение обычных методов обучения (например, со стандартным учителем) с обычными нейросетями (будь даже они марковскими или байесовскими сетями) и сложные методы обучения, сложные нейросети как таковые, сложная структура искусственного нейрона и их совместные вариации - такое разделение смысл имеет. И я примерно показал, почему: в одном случае нужно строить одну вероятностную модель, а в другом - как минимум две.

EUgeneUS в сообщении #1293636 писал(а):

не создает новых паттернов поведения (они заранее заданы)

При обучении с подкреплением не будет вполне верным то, что паттерны поведения задаются. Задаётся среда и цель, а уже сам алгоритм должен определить оптимальную стратегию достижения цели: статья.

EUgeneUS в сообщении #1293636 писал(а):

"если Икс, то Игрек с вероятностью Пэ, иначе Зет"

Если верно понял, вы описали байесовский подход. В обучении с подкреплением используется не он. Если неверно понял, то неверно понял.

EUgeneUS в сообщении #1293636 писал(а):

Это умеют делать туповатые роботы

Вы меня откровенно не понимаете. То, что люди выбирают ту или иную политику для решения одной и той же задачи с той или иной вероятностью, при этом получая тот или иной результат, опять же, с той или иной вероятностью, и ровно так же могут поступать так называемые туповатые роботы, не говорит о том, что туповатые роботы являются сознательными, так как люди сознательны и существует факт схожести в поведении. Это говорит только о том, что люди и роботы могут поступать похоже, и не более, тем более что последних программируют первые часто по своему же подобию. К тому, о чём я писал, это не относится совершенно никак.

EUgeneUS в сообщении #1293636 писал(а):

Вопросы адресуются Вам постольку, поскольку Вы на них отвечаете

Нет, я на них не отвечаю и не собирался отвечать. Я указал на несоответствие в одном из пунктов, включённых в ваш вопрос к dvb. Всё, что спрашивали, спрашивайте у данного пользователя.

EUgeneUS в сообщении #1293636 писал(а):

Тут, честно говоря, потерялся

Можете почитать Дэвида Дойча, у него есть схожий кусок. Однако он говорил несколько о других вещах (любитель меметики-генетики-попперства, должен, в принципе, и Тулмина любить). У меня речь шла о том, что для выживания вида (в контексте родовидовых отношений) того или иного гена необходима репликация, иначе же существование будет ограничено только конкретным набором условий среды, с появлением же репликации вид имеет возможность приспособления к изменению данного набора условий. Я далеко не генетик, так что я могу ошибаться (например, если набор генов одного вида, неспособных к репликации, сможет существовать при изменении условий среды, то я ошибаюсь точно, и тем более я могу быть близок к ошибке и абсурду в технических деталях), и поэтому этот вопрос всё-таки оставляю специалистам.

EUgeneUS в сообщении #1293636 писал(а):

Человек умеет хотеть?

Да, так как феномен мотивации у человека известен, и данный феномен не является иллюзией, т.е. действительно существует.

EUgeneUS в сообщении #1293636 писал(а):

А инфузория туфелька?

Если инфузория стремится разрешать свои потребности, а не просто пассивно их разрешает по мере появления возможности их разрешить в ходе свободного плавания в среде, то умеет. Т.е. если инфузория определяет место, где скорее всего она сможет эти потребности разрешить, и в любом возможном случае направляется туда, у неё есть аппетенция.

EUgeneUS в сообщении #1293636 писал(а):

Тут какая-то странная связь между сложностью и детерминированностью

Нет ничего странного. Люди мыслят на разных уровнях абстракции, и, если не ошибаюсь, сейчас это называют гранулированием информации, хотя на самом деле гранулирование информации шире в своём понятийном аппарате обычного разбиения знания на разные классы абстрактности-конкретности. Поэтому индетерминизм может обозначать две разные вещи: фундаментальную случайностность тех или иных событий и нефундаментальную. Первое укоренилось в качестве подхода к изучению квантовой физикой её предметной области, второе же возникает при исследовании систем при незнании или опускании ряда факторов, влияющих на данную систему. Чем сложнее система, тем больше факторов следует учитывать при её исследовании (т.е. их не следует опускать или не знать, так как их роль возрастает) и тем более индетерминированной выглядит система при её изучении, если необходимые для учёта факторы не были по тем или иным причинам учтены. Кроме того, как здесь указывалось, вместо простого определения вероятности результата для данного случая стало необходимо определять вероятность выбора паттерна, и чем сложнее система, тем больше необходимых вероятностных моделей для определения её поведения следует строить.

EUgeneUS в сообщении #1293636 писал(а):

его поведение по определению смешанных стратегий не будет детерминировано. У такого робота есть сознание?

Вы опять не понимаете, о чём идёт речь. Во-первых, я писал только о том, что цель системы и желание системы - разные вещи, т.е. ваш вопрос к dvb должен быть откорректирован. Во-вторых, можно построить сколь угодно сложную индетерминированную систему, которая не будет отвечать критериям сознания того же dvb, так как функция аппетенции в ней не будет реализована.

[EUgeneUS]

dllzero в сообщении #1293653 писал(а):

Ничего странного нет, так как некоторые методы обучения могут сильно менять картину. Так, один из классов нейроэволюционных подходов позволяет изменять топологию сети. Это будет уже не конкретная регрессионная модель, действие которой проще предсказать. Нечёткое разделение обычных методов обучения (например, со стандартным учителем) с обычными нейросетями (будь даже они марковскими или байесовскими сетями) и сложные методы обучения, сложные нейросети как таковые, сложная структура искусственного нейрона и их совместные вариации - такое разделение смысл имеет. И я примерно показал, почему: в одном случае нужно строить одну вероятностную модель, а в другом - как минимум две.

Ничего нет странного в том, что некоторые методы (обучения или чего-то еще) могут сильно менять картину. Вопрос в том, что есть а) искусственные системы, которым, в сознании отказывается "по определению", и б) естественные системы, которые от искусственных отличаются только тем, что естественные, или какими-то количественными характеристиками (например, количеством нейронов), которым в сознании не отказывают.

dllzero в сообщении #1293653 писал(а):

При обучении с подкреплением не будет вполне верным то, что паттерны поведения задаются. Задаётся среда и цель, а уже сам алгоритм должен определить оптимальную стратегию достижения цели: статья
.

dllzero в сообщении #1293653 писал(а):

Если верно понял, вы описали байесовский подход. В обучении с подкреплением используется не он. Если неверно понял, то неверно понял.

Вы неверно поняли. Я говорил не о "байсовском подходе", а ровно о том, что написано в статье, на которую вы сослались:

Цитата:

Формально простейшая модель обучения с подкреплением состоит из:

множества состояний окружения S;
множества действий A;
множества вещественнозначных скалярных „выигрышей“.

"Множество действий A" - задается заранее. Оно не может быть расширено посредством обучения. В этом смысле обучение с подкреплением не создает новых паттернов поведения.

dllzero в сообщении #1293653 писал(а):

Если инфузория стремится разрешать свои потребности, а не просто пассивно их разрешает по мере появления возможности их разрешить в ходе свободного плавания в среде, то умеет. Т.е. если инфузория определяет место, где скорее всего она сможет эти потребности разрешить, и в любом возможном случае направляется туда, у неё есть аппетенция.

Вот и прекрасно. Экспериментами установлено, что инфузория туфелька стремится туда, где ярко, но не очень. Предположительно, это связно с тем, что при таком диапазоне яркости наиболее хорошо размножается её пища. Это полностью соответствует Вашим требованиям к наличию аппетенции. А значит у инфузории туфельки есть желания и она умеет хотеть. Отлично. Но её поведение не сложнее поведения ракеты ПВО. Почему ракете ПВО отказывается в аппетенции? Только на основании происхождения? Это большевизм, какой-то.

dllzero в сообщении #1293653 писал(а):

Вы опять не понимаете, о чём идёт речь.

Не понимаю. См. выше.

dllzero в сообщении #1293653 писал(а):

Во-первых, я писал только о том, что цель системы и желание системы - разные вещи,

Да, разные, наверное. Но где провести дефиницию?

dllzero в сообщении #1293653 писал(а):

Во-вторых, можно построить сколь угодно сложную индетерминированную систему, которая не будет отвечать критериям сознания того же dvb, так как функция аппетенции в ней не будет реализована.

Конечно. Опять же по определению:

Цитата:

Аппетенция — стремление животного к источнику, который запускает его инстинктивную реакцию достижения того или иного потребностного состояния,..

То есть мы можем построить сколь угодно сложную индетерминированную систему, но функция аппетенции в ней не будет реализована хотя бы по той причине, что эта система не является животным (хотя старательно им прикидывается). Как-то так.

[dvb]

EUgeneUS в сообщении #1293523 писал(а):

Ракета обладает сознанием?

Вы, как я вижу, изрядный полемист. Ну, хорошо. Да, обладает. Вы полагаете, нет? А, собственно, почему? У Вас имеются какие-то свои критерии наличия сознания у чего-либо?

[EUgeneUS]

dvb

Ракета безусловно не обладает сознанием, как и инфузория туфелька. По определению:

Цитата:

Созна́ние — состояние психической жизни человека, выражающееся в субъективном переживании событий внешнего мира и жизни самого индивида, а также в отчёте об этих событиях

Цитата:

СОЗНА́НИЕ - Способность мыслить, рассуждать и определять своё отношение к действительности как свойство высшей нервной деятельности человека.

В таких определениях сам термин имеет смысл только в психологии (наука, изучающая закономерности возникновения, развития и функционирования психики и психической деятельности человека и групп людей).
Как только мы расширяем набор рассматриваемых систем и включаем в рассмотрение не только людей, так сразу термин теряет смысл.

[dllzero]

EUgeneUS в сообщении #1293661 писал(а):

искусственные системы, которым, в сознании отказывается "по определению"

Укажите, где было сказано про искусственные системы, которым отказывается в наличии сознания по определению.

EUgeneUS в сообщении #1293661 писал(а):

естественные системы, которые от искусственных отличаются только тем, что естественные, или какими-то количественными характеристиками (например, количеством нейронов), которым в сознании не отказывают

Укажите, где было сказано, что сознательность системы логически следует от её естественности или от неких количественных характеристик.

EUgeneUS в сообщении #1293661 писал(а):

"Множество действий A" - задается заранее.

Паттерны (стратегии) поведения - это не множество действий. Паттерн - это алгоритм и его область применимости. Конкретные конечные алгоритмы здесь не задаются.

EUgeneUS в сообщении #1293661 писал(а):

Почему ракете ПВО отказывается в аппетенции?

Для ракеты ПВО указана потребность попасть во вражеский самолёт и взорваться. Не взорваться при пассивном с точки зрения самой ракеты попадании в зону поражения вражеского самолёта, а самостоятельно попасть в него, иначе это не самонаводящаяся ракета - даже если она была выпущена вручную, то как самонаводящаяся ракета она должна быть наведённой на цель самостоятельно.

Следовательно, данная потребность подразумевает нахождение цели, которое является подзадачей в алгоритме разрешения данной проблематики. То есть, потребность A формулируется как "найти вражеский объект, провести к нему оптимальную траекторию полёта и уничтожить его".

Чтобы у ракеты ПВО была аппетенция, то, упрощённо говоря, должна быть потребность активно удовлетворять потребности более низкого уровня. Указана только одна такая потребность: A. Следовательно, функция аппетенции для ракеты ПВО подразумевает потребность B: "Разработать стратегию оптимального разрешения потребности A".

Это значит, что ракета ПВО, для которой реализована функция аппетенции, должна уметь ставить себе задачу оптимального уничтожения вражеских объектов с учётом всех необходимых для этого действий, причём не отдельно взятого объекта (как указано в A), а объектов в принципе, если они однородны. То есть, задача состоит в том, чтобы задача уничтожения объекта выполнялась вне зависимости от конкретных характеристик движущегося объекта установленного класса.

По аналогии с инфузорией-туфелькой: ракета должна находить оптимальные условия для своего питания и решать проблему питания, исходя из полученных условий. Оптимальные условия подразумевают инвариантность работы общей стратегии к параметрам конкретного объекта конкретного класса. Особо важные цели могут быть выделены в отдельный класс и иметь приоритет, либо вся система классов может быть ранжирована.

Исходя из этого, можно было бы сказать, что ракета ПВО стремится наиболее лучшим способом уничтожить вражеский объект, т.е. у неё соблюдается функция аппетенции, т.е. она желает. Собственно, из такой аксиоматики всё начиналось.

Итак, как могло бы это выглядеть? Могу предложить такой вариант:
1. Ракета была запущена, не важно, вручную или автоматически;
2. Ракета анализирует неким способом, где существует наилучшая возможность поразить противника или нескольких противников сразу (это ещё более лучший вариант), вне зависимости от конкретных характеристик противника конкретного класса;
3. Ракета анализирует неким способом, как оптимальнее всего всего прийти к такой возможности (например, самостоятельно проложить курс к авианосцу);
4. Ракета попадает туда, разрешив потребность B;
5. Ракета решает задачу нахождения противника в конкретных условиях либо переопределяет координаты, если задача была решена раньше, для уточнения;
6. Ракета определяет наилучшую траекторию до противника;
7. Ракета летит по этой траектории и взрывается.

Всё это может показаться на первый взгляд выгодным, но на самом деле это не так, ведь для определения поведения данной ракеты следует создать такие вероятностные модели:
1. Стратегического нахождения целей и проведения траектории по тем или иным паттернам;
2. Тактического нахождения целей и проведения траектории по тем или иным паттернам;
3. Результатов попадания (в кого, какого класса, с каким успехом).

Это всё требует учёта множества значений исходных переменных во всей совокупности их размещений (или сочетаний, зависит от контекста), чтобы ракета, например, стратегически не уничтожила часть чьего-то кладбища самолётов.

Кроме того, затруднительно сформировать систему управления и согласования действий таких ракет. Скорее "желающую" систему разработают для самой системы управления, а не для отдельной ракеты.

EUgeneUS в сообщении #1293661 писал(а):

Да, разные, наверное. Но где провести дефиницию?

Цель искусственной системы ставится создателями данной искусственной системы, необязательно даже явно для самой системы (в этом случае ей не будет доступна информация о её целях, а сам создатель же просто предполагает, что система будет делать такой-то набор действий, но не факт, что она это будет делать), желание же системы фигурирует строго как часть её самой и является функцией поиска (оптимального) решения других функций и реферирует потребность (эффективно) выполнять потребности более низкого уровня, и если цели системы поставлены неявно, то система, имеющая функцию аппетенции, будет базироваться на всех находимых ей потребностях без акцента на разрешение проблематики цели (которая в явном виде ставится как ещё одна конечная потребность), и если множество таких потребностей является пустым, то очевидно, что система либо ничего не делает, либо выполняет операционный алгоритм, собственно не зависящий от наличия потребностей.

EUgeneUS в сообщении #1293661 писал(а):

не является животным

В конечном счёте речь не о том, животное это или нет. Живое существо в принципе (гипотетически по крайней мере) можно представить как сложный алгоритм или комплекс алгоритмов: https://en.wikipedia.org/wiki/OpenWorm.