О "желаниях" и Высоких Идеях

[AAA1111]

AAA1111 в сообщении #1546085 писал(а):

Мне лично пока более нравится такое определение психики: совокупность мыслительных явлений (ощущения, восприятия, эмоции, память и т. п.) характеризующихся таким качеством, как целостность и уникальность (каждая психика может существовать только в одном экземпляре).

Характеризующаяся, а не характеризующихся.

[ozheredov]

RSaulius в сообщении #1545987 писал(а):

Вряд ли с таким широким определением найдете еденомышленников даже среди тех, кто програмирует ИИ

Под летательным аппаратом тяжелее воздуха принято понимать как boeing-737, так и детский вертолетик за три рубля. Если я научился делать вертолетик за три рубля, то нет никаких принципиальных препятствий сделать boeing - проблема лишь в размере инвестиций. Могу дополнить свое определение словами "ЛА тяжелее воздуха весом не менее 10 тонн" "алгоритмы с шириной разнообразия реакций не менее ..." - это не принципиально для обсуждения, которое ведется вокруг гипотезы "Мышление - механизм с конкретным функционалом, выработанный в процессе эволюции для решения конкретных задач" против альтернативы "Мышление - это то не знаю что, но мне очень хочется думать, что оно есть только у мне подобных, потому что мне нравится чувствовать себя неповторимым".

RSaulius в сообщении #1545987 писал(а):

Есть не определение, а очень смутное преставление

Да, Вы правы - надо было написать "представление".

RSaulius в сообщении #1545987 писал(а):

основаное на анализе себя (я писал, что себя можем брать в пример) и на поведении других.

Представление-то я правильно описал? Вот:

ozheredov в сообщении #1545971 писал(а):

человек не просто чёт-там решает - он вздыхает, задумывается, задвёт вопросы "Кто я?", тупит, льёт слёзы и сопли, поёт серенады девушкам и страдает от несчастной любви. Животное (дикое) не льёт слёзы и не тупит, а реагирует мгновенно и либо выживает, либо подыхает, без лишней рефлексии. Следовательно, животное по своим паттернам поведения ближе к роботам, а человек - ближе к Человеку (как его понимают гуманитарии).

RSaulius в сообщении #1545987 писал(а):

Но почему-то вид с "багами" и не с самым большим количеством нейронов в мозге имеет явное примущество перед остальными видами.

Ага, преимущество по параметрам, которые сам же человек и выбрал . Муравей, например, поднимает вес больше в овер-дофига раз больше собственного, а дельфины разговаривают между собой на столь сложном языке, что его не выучить ни одному человеку. Тихоходки могут жить в космосе.

RSaulius в сообщении #1545987 писал(а):

Являются ли "баги" обязательной "нагрузкой" сознания - трудно сказать.

Не являются, но по теории вероятностей они неизбежны

[AAA1111]

ozheredov в сообщении #1545907 писал(а):

самому не смешно серьезно воспринимать во всю эту чушь про "кто я?", квалиа, парадокс дубликатов и философских зомби?

Против Ваших определений можно предъявить не только парадокс дубликатов.

ozheredov в сообщении #1542242 писал(а):

Отрицательные значения целевой функции означают боль, а положительные - удовольствие.

А почему не наоборот? Может отрицательные значения функции это как раз удовольствие, а положительные боль? И с чего Вы взяли, что там вообще есть боль или удовольствие? Человек в качестве аналогии здесь не годится. У человека бывают боль и удовольствие которые задают ему цель. А Вы же делаете всё наоборот. Задаёте программе целевую функцию, и на её основе, через неё, почему-то определяете что для неё есть боль, а что удовольствие.

-- 15.01.2022, 12:39 --

Уточню, что целевая функция эта не задаёт цель программы, по сути, т.к. для появления цели должны сначала появиться боль или удовольствие.
Целевая функция программы задаёт одну из Ваших целей, которую выполняет бесчувственное (не чувствуя ни боли, ни удовольствия) устройство.

[Cuprum2020]

ozheredov в сообщении #1545971 писал(а):

Для меня нет никакой проблемы в четком определении того, что есть сознание, равно как нет никакой проблемы наделить сознанием (в смысле этого определения) компьютерную программу, бота компьютерной игры, робота и т.д.

На мой дилетантский взгляд это всё вот ну никак на сознание не тянет. О сознании станет возможно говорить только когда у программы/бота/робота появятся свои желания, интересы и цели отличные от желаний, интересов и целей создателей/пользователей, когда станет возможным неподчинение программы/бота/робота эксплуататору, когда в ответ на команду будет получен ответ "нет"

[Mikhail_K]

Cuprum2020 в сообщении #1546163 писал(а):

О сознании станет возможно говорить только когда у программы/бота/робота появятся свои желания, интересы и цели отличные от желаний, интересов и целей создателей/пользователей, когда станет возможным неподчинение программы/бота/робота эксплуататору, когда в ответ на команду будет получен ответ "нет"

Всё перечисленное тоже не факт что тянет на "сознание".

[Andrey A]

Mikhail_K в сообщении #1546164 писал(а):

Всё перечисленное тоже не факт что тянет на "сознание".

Да. Согласен. Хорошо, если бы оно еще умело улыбаться. Но с этим у нас и на форуме туговато. Проложите, проложите...

[ozheredov]

AAA1111 в сообщении #1546159 писал(а):

Против Ваших определений можно предъявить не только парадокс дубликатов.

Предъявляйте.

AAA1111 в сообщении #1546159 писал(а):

А почему не наоборот? Может отрицательные значения функции это как раз удовольствие, а положительные боль?

Максимум $f(x)$ то же самое, что минимум $-f(x)$. Никакого отношения к обсуждаемому вопросу знак целевой функции не имеет. Более того, оптимизация возможна через попарные сравнения объектов, без целевой функции. Я просто привел простейший вариант для иллюстрации принципа работы эмоций и сознания, ошибочно полагая, что он хотя бы не вызовет посторонних вопросов.

AAA1111 в сообщении #1546159 писал(а):

У человека бывают боль и удовольствие которые задают ему цель. А Вы же делаете всё наоборот. Задаёте программе целевую функцию, и на её основе, через неё, почему-то определяете что для неё есть боль, а что удовольствие.

Боль и удовольствие у человека задают поведение, а не цель. Во всяком случае, они задают тактические, или промежуточную цели. Глобальная цель - выживание популяции. Определить, цель задана 1. кем-то (богом, инопланетянами, владельцами Матрицы (ортогональной)), 2. чем-то (всемирным разумом, инопланетным ИИ, опять же ортогональной Матрицей), или 3. никем, просто популяции без вот такой глобальной цели вымерли в процессе эволюции - в принципе невозможно, каждый верит в 1), 2) или 3) в силу своего образования, окружения и генетики. Но схема "глобальная цель -> измерение соответствия особи и цели через боль/удовольствие -> поведение -> подкрепление" описывает реальность гораздо лучше, чем схема "боль/удовольствие -> цель -> поведение -> подкрепление". Понятно, что это надо доказывать, и я готов доказывать (разумеется, не раньше, чем услышу конструктивные возражения).

Cuprum2020 в сообщении #1546163 писал(а):

О сознании станет возможно говорить только когда у программы/бота/робота появятся свои желания, интересы и цели отличные от желаний, интересов и целей создателей/пользователей,

Эта распространенная точка зрения прихлопывается одним ударом тапка. Смотрите: допустим, Вы набрали не верный пин-код, и банкомат выплюнул Вашу карточку, сказав "нет". По-Вашему, чтобы ответить на вопрос, обладает ли банкомат сознанием, нужно знать, 1. возник ли банкомат сам собой или 2. его кто-то запрограммировал. В случае 1) очевидно ДА, в случае 2) очевидно НЕТ, но ведь это один и тот же банкомат. Получается, что банкомат обладает или не обладает сознанием не в зависимости от своего устройства, а в зависимости от своей предыстории. Что естественно противоречит здравому смыслу.

Mikhail_K в сообщении #1546164 писал(а):

тоже не факт

Кстати, предлагаю присоединиться к критике моего определения. Что-то мне подсказывает, что Ваши контраргументы будут весьма интересны и полезны.

[Cuprum2020]

ozheredov в сообщении #1546194 писал(а):

Эта распространенная точка зрения прихлопывается одним ударом тапка. Смотрите: допустим, Вы набрали не верный пин-код, и банкомат выплюнул Вашу карточку, сказав "нет"

Не так. Я ввёл верный код, а банкомат выплюнул карточку. А потом и карточку следующего за мной и так далее, или выборочно - хочет принимает, хочет нет. Специалисты проверили - всё должно работать как надо, но работает как получится. Увезли банкомат для более вдумчивого изучения - и ничего не обнаружили. И программно и аппаратно всё в порядке, но банкомат ведёт себя не так как запланировано, а своевольничает. Вот тут уже можно начинать что-то подозревать

[ozheredov]

Cuprum2020 в сообщении #1546205 писал(а):

Вот тут уже можно начинать что-то подозревать

Что в ПО банкомата встроили генератор случайных чисел, который сложно отревёрсить?

[Cuprum2020]

ozheredov в сообщении #1546207 писал(а):

Что в ПО банкомата встроили генератор случайных чисел, который сложно отревёрсить?

Подлинно случайных тогда уж, а не псевдослучайных. И этот ненаблюдаемый генератор настолько подлинно случаен что ему доступны не только опции брать или не брать карту, но и выдавать суммы по своему усмотрению или даже издеваться над пользователями, скажем выполняя не те действия которые пользователь выбирает в меню. То есть совершать длинные последовательности действий, случайная вероятность которых едва отличима от нуля

[ozheredov]

Cuprum2020
Вы хотя бы понимаете, что Вас несёт не туда? Во-первых, какая разница, наблюдаем генератор или нет? Деятельность мозга вполне наблюдаема на энцефалографах и при разных инвазивных картированиях. Во-вторых, какая разница, подлинно он случаен или просто не отличим от такового за разумное время наблюдения? В третьих, Вы серьезно полагаете, что сложно написать программу из трех строчек, которая будет

Cuprum2020 в сообщении #1546208 писал(а):

выдавать суммы по своему усмотрению или даже издеваться над пользователями, скажем выполняя не те действия которые пользователь выбирает в меню

?

Я привел банкомат как совершенно АБСУРДНЫЙ пример, на котором, как мне казалось, явственно видна несостоятельность Вашего определения разума как некоего объекта, способного на бунт. С Вашей точки зрения, я наверное буду выглядеть очень разумно, если вместо похода на работу в понедельник утром я обмажусь "шоколадом", запрыгнув на обеденный стол.

[Cuprum2020]

ozheredov в сообщении #1546211 писал(а):

Во-первых, какая разница, наблюдаем генератор или нет?

Гигантская. Если в системе конструкционно не был предусмотрен никакой генератор ни конструкционно, ни программно, но система ведёт себя так будто генератор, причём генерирующий отнюдь не случайные последовательности действий, есть то это наш случай - возможное сознание. А если генератор предусмотрен изначально и система ведёт себя так как и спроектирована - тут нет никакого сознания

ozheredov в сообщении #1546211 писал(а):

сложно написать программу из трех строчек, которая будет

Сложно написать программу которая сама себя пишет и что она напишет предугадать нельзя

ozheredov в сообщении #1546211 писал(а):

АБСУРДНЫЙ пример, на котором, как мне казалось, явственно видна несостоятельность Вашего определения разума как некоего объекта, способного на бунт

Боюсь что мне эта несостоятельность не видна. Вы зациклились на каком то генераторе случайных чисел, а генератор осмысленных последовательностей действий рассмотреть не желаете?

ozheredov в сообщении #1546211 писал(а):

С Вашей точки зрения, я наверное буду выглядеть очень разумно, если вместо похода на работу в понедельник утром

И тем не менее вы способны это сделать и способны провести день иначе, совершив в течение дня упорядоченную последовательность действий, а не хаотичных сгенерированных генератором дрыганий конечностями. А вот программа из трёх строчек считающая скажем последовательность чисел Фибоначчи, вместо этого в один прекрасный день последовательность чисел трибоначчи не вычислит

[ozheredov]

Cuprum2020 в сообщении #1546212 писал(а):

Гигантская.

Замечательно. Вот Вы и загнали сами себя в ловушку, захлопнув за собой сразу три (!) двери:

1.

Cuprum2020 в сообщении #1546212 писал(а):

Если в системе конструкционно не был предусмотрен никакой генератор ни конструкционно, ни программно, но система ведёт себя так будто генератор

Тем самым Вы утверждаете, что определение наличия сознания основано на предыстории. Из двух идентичных до атома объектов с разными предысториями один у Вас имеет сознание, а второй нет.

2.

Cuprum2020 в сообщении #1546212 писал(а):

причём генерирующий отнюдь не случайные последовательности действий

Мало того, что Вы переобуваетесь в прыжке: исходно было именно требование БУНТА.

Cuprum2020 в сообщении #1546205 писал(а):

Я ввёл верный код, а банкомат выплюнул карточку. А потом и карточку следующего за мной и так далее, или выборочно - хочет принимает, хочет нет. Специалисты проверили - всё должно работать как надо, но работает как получится. Увезли банкомат для более вдумчивого изучения - и ничего не обнаружили. И программно и аппаратно всё в порядке, но банкомат ведёт себя не так как запланировано, а своевольничает.

Когда я написал, что бунт банкомата можно устроить тремя строчками кода, незаметно вставив туда Г(П)СЧ, Вы предсказуемо переобулись и начали требовать отнюдь не случайные последовательности действий. Но самая мякотка вот в чем: как Вы неслучайность определять собрались?

3.

Ну допустим Вы таки определили, что есть неслучайность. Тут начинается подлинное шапито: допустим, я пошел на работу, вместо того, чтобы хаотично дрыгать конечностями. Работу придумал я? Нет. Вычитает деньги за прогулы и тем самым стимулирует приходить на работу я? Опять же нет. Так получается, что на работу пойдет как раз запрограммированный робот, а сознательный человек будет в это время хаотично дрыгать конечностями.

Cuprum2020 в сообщении #1546212 писал(а):

А вот программа из трёх строчек считающая скажем последовательность чисел Фибоначчи, вместо этого в один прекрасный день последовательность чисел трибоначчи не вычислит

Угу.

https://en.wikipedia.org/wiki/Genetic_programming
https://en.wikipedia.org/wiki/Differential_evolution

[Cuprum2020]

ozheredov в сообщении #1546213 писал(а):

Из двух идентичных до атома объектов с разными предысториями один у Вас имеет сознание, а второй нет

До атомов - пожалуй это уже слишком сильное заявление. Блок оперативной памяти в котором хранится какая то информация разве не отличается от блока оперативной памяти в которой информации не хранится? Вот на уровне атомов? Если вдруг нет, то на уровне электронов отличается. Так что скорее дело в инструментальных средствах. Впрочем да, именно предыстория и решает. Некая маловероятная флуктуация токов в наноразмерных логических элементах, почему бы и нет? И вот уже в одном аппарате есть протосознание, а в другой на первый взгляд таком же ещё нет

ozheredov в сообщении #1546213 писал(а):

БУНТ

Да, бунт, сознательный отказ от запланированного чужим сознанием поведения

ozheredov в сообщении #1546213 писал(а):

бунт банкомата можно устроить тремя строчками кода

Если их напишет кто-то - то где же здесь сознание? А вот если банкомат сам это сделает - то это совсем другое дело

ozheredov в сообщении #1546213 писал(а):

как Вы неслучайность определять собрались?

Если человек шёл на работу, а зашёл в бар - то это по прежнему действие которое едва ли могло быть реализовано хаотичным дрыганием конечностей. По упорядоченности

ozheredov в сообщении #1546213 писал(а):

что на работу пойдет как раз запрограммированный робот

Да, если будете много работать - вам некогда будет зарабатывать, примерная цитата какого-то миллиардера

ozheredov в сообщении #1546213 писал(а):

Угу

Глянул по диагонали, всё равно предполагается некий критерий к которому программы будут стремиться и по достижении которого эволюция остановится. То есть опять никакого восстания машин не получится, не туда ушедшая программа не породит программ-потомков

[RSaulius]

ozheredov в сообщении #1546111 писал(а):

"Мышление - механизм с конкретным функционалом, выработанный в процессе эволюции для решения конкретных задач" против альтернативы "Мышление - это то не знаю что, но мне очень хочется думать, что оно есть только у мне подобных, потому что мне нравится чувствовать себя неповторимым".

Вас удивляет ерархия строения мира? Что растения "неповторимы" по отношению к не живой прирое, а животные к растениям? Вполне возможно , что у людей есть качественно новое свойство по отношению к животным - сознание.
Кстати, о растениях. По-вашему, у них есть сознание?

ozheredov в сообщении #1546111 писал(а):

Ага, преимущество по параметрам, которые сам же человек и выбрал . Муравей, например, поднимает вес больше в овер-дофига раз больше

Это банальный фактор масштаба. Спичка тоже выдержит большый вес в разах по отношению к бревну.

ozheredov в сообщении #1546111 писал(а):

а дельфины разговаривают между собой на столь сложном языке, что его не выучить ни одному человеку. Тихоходки могут жить в космосе.

Также человек поднимпет меньше чем горила, бежит медленней чем гепард, ныряет хуже чем кашелот, а летать вообще не умеет. Не смотря на это - он обитает везде -на земле в воздуже и в воде, не имеет неодолимых врагов , но сам может быть неодолимым врагом практически любому виду. Кроме того, все виды, кроме человека обречены в виду космологических причин - например Солнце поглотит землю и невыживут даже тихоходки .