Может ли машина мыслить?

[realeugene]

Ghost_of_past в сообщении #1658580 писал(а):

Если нет, то можно и забить

Если честно, то не особо. Это всё выглядит как некий пантеон идей. Собранный ради того, чтобы если лет через 200 (например) задача сознания машины будет решена учёными и инженерами, можно было бы сказать: а вот 300 лет назад философ Вася Пупкин выдвигал подобную идею. Ну и выдвигал, ну и что? Если 300 лет назад она была одна в длинном ряду каких-то иных идей, не сработала и не дала работоспособную модель этого явления, то её ценность на тот момент была нулевая.

[Ghost_of_past]

realeugene в сообщении #1658583 писал(а):

Это всё выглядит как некий пантеон идей.

Как метауровень философских интерпретаций. Я в полной версии того частично цитируемого поста прямым образом сравнил это с интерпретациями квантовой механики - расчеты одни и те же, но в физике и философии физики интерпретируются они различным образом. Здесь есть определенное сходство.

realeugene в сообщении #1658583 писал(а):

если лет через 200 (например) задача сознания машины

Это задача второго порядка. Первичная - понять природу биологического сознания. И сейчас более чем хватает частных нейробиологических и психологических теорий сознания (появились за последние 30-40 лет), но вот интегративной теории пока не создано.

[realeugene]

Ghost_of_past в сообщении #1658585 писал(а):

Первичная - понять природу биологического сознания. И сейчас более чем хватает частных нейробиологических и психологических теорий сознания (появились за последние 30-40 лет), но вот интегративной теории пока не создано.

Куча разных гипотез, которые ничего не объясняют, как раз и означает, что среди их создателей никто ничего не понимает. Мне всё-таки кажется, что и природа биологического сознания будет понята в недалёком будущем после создания сознания машинного. Которое, возможно, уже создано, так как последние большие языковые модели уже применяют в своей работе механизмы внимания и учитывают в своём контексте реакцию человека на их ответы.

[Ghost_of_past]

realeugene в сообщении #1658588 писал(а):

Куча разных гипотез

Не гипотез, а теорий.

realeugene в сообщении #1658588 писал(а):

которые ничего не объясняют

А это Вы откуда взяли? У Вас есть биологическое и/или психологическое образование, чтобы оценить эти теории?

Звучит как минимум оскорбительно для сотен и тысяч исследователей, которые работают в этой сфере.

realeugene в сообщении #1658588 писал(а):

Мне всё-таки кажется, что и природа биологического сознания будет понята в недалёком будущем после создания сознания машинного.

Скорее всего примерно одновременно - и интегративная теория сознания, и машинное сознание появятся в ближайшие 15-30 лет при сохранении трендов.

realeugene в сообщении #1658588 писал(а):

Которое, возможно, уже создано, так как последние большие языковые модели

Нет, не создано. Буквально в начале темы давалась ссылка на статью, где показывается, что никакого сознания там нет.

[realeugene]

Ghost_of_past в сообщении #1658590 писал(а):

Нет, не создано. Буквально в начале темы давалась ссылка на статью, где показывается, что никакого сознания там нет.

Если вы про китайскую комнату - то этот мысленный эксперимент не учитывает две вещи:
1. эмерджетность.
2. машина обучается сама на данных и использует при этом вероятностные модели, что делает её ответы не до конца предсказуемыми человеком.

[Ghost_of_past]

realeugene в сообщении #1658592 писал(а):

Если вы про китайскую комнату

Нет, я про это:

Anton_Peplov в сообщении #1656738 писал(а):

Как пример такого обсуждения:

Anton_Peplov в сообщении #1628242 писал(а):

Попадался недавно любопытный препринт: удовлетворяют ли большие языковые модели теориям сознания (общий вывод - нет, не удовлетворяют, но в принципе ничто не мешает создать ИИ, который удовлетворяет).

-- 15.10.2024, 02:10 --

realeugene в сообщении #1658592 писал(а):

1. эмерджетность.
2. машина обучается сама на данных и использует при этом вероятностные модели, что делает её ответы не до конца предсказуемыми человеком.

Эмерджентность может быть аргументом против китайской комнаты, но не в расширенном варианте этого мысленного эксперимента. Действительно однозначным аргументом против может быть создание сильного ИИ.

Про это все подробнее написано тут.

[realeugene]

Ghost_of_past в сообщении #1658593 писал(а):

Про это все подробнее написано тут
.

Если честно, пролистав эту статью я так и не понял, в чём состоит этот расширенный эксперимент. Не знаете, ChatGPT только в платной версии умеет выжимать воду из статей?

В любом случае, обсуждать и критиковать в настоящее время одну лишь эмерджетность бессмысленно, так как главный кандидат на появление машинного сознания - это сетки, а они ещё и сами учатся на основе собственного опыта предъявляемых им при обучении огромных массивов данных.

[Serg53]

Rasool в сообщении #1658526 писал(а):

Serg53 в сообщении #1658515 писал(а):

Чтобы понять процесс мышления, необходимо разложить субъективность на объективные математические компоненты...

Думаю, тут скорее нужно двигаться в сторону соотношения мышления и логики. Например, какими способами решаются нестандартные математические задачи?
Ну, а в более широком смысле озадачиться тем, как технически смоделировать процесс мышления, происходящего в человеческом мозге. Или еще лучше, изучить как следует этот процесс и, доработав, перенести его в "железо". Примерно так, как развивались первые искусственные нейронные сети.

Компьютерные нейросети не учитывают чрезвычайное многообразие биохимических реакций в живых организмах, в том числе в их нейросетях. А субъективность генерируется именно физико-химическими процессами, которых нет в компьютере. Поэтому цифровая имитация работы нейросети даже приблизительно не аналогична тому, что происходит в живых организмах.

[realeugene]

Serg53 в сообщении #1658607 писал(а):

А субъективность генерируется именно физико-химическими процессами

Это лишь ваши фантазии. "Неизвестно" означает, что неизвестно.

С другой стороны, все механизмы функционируют на основе физико-химических процессов. Что им мешает генериоовать субъективность в вашей логике?

-- 15.10.2024, 11:29 --

Ghost_of_past в сообщении #1658528 писал(а):

Пока нет

А можете пояснить, почему положение шариков центробежного регулятора не является субъективным восприятием этого центробежного регулятора как системы скорости вращения вала?

[b4b5]

sergey zhukov в сообщении #1658532 писал(а):

Ghost_of_past
Мне это напоминает споры об эфире. Эфир, будучи необходимым представлением вначале, растерял все свои свойства в конце и просто растворился в вакууме. То же самое произойдет с понятием "сознание", как мне кажется.

Не произойдет с сознанием. Точно также, как не произойдет с понятием операционной системы, которая управляет техническим устройством.

[realeugene]

Ghost_of_past в сообщении #1658585 писал(а):

сравнил это с интерпретациями квантовой механики - расчеты одни и те же, но в физике и философии физики интерпретируются они различным образом. Здесь есть определенное сходство.

Скорее различие. Интерпретации КМ устроены по-разному математически, но они дают одинаковые в рамках достижимой ныне точности эксперимента предсказания. Поэтому физики сошлись на том, что спорить об их большей или меньшей истинности бессмысленно, и нужно пользоваться самой простой математически. Но их каталогизация само по себе увлекательное занятие.

С другой стороны, это явно показывает, что нет предсказания - нет и теории.

[b4b5]

Ghost_of_past в сообщении #1658558 писал(а):

stalvoron в сообщении #1658556 писал(а):

разве не образец субъективного восприятия

Это образец знания. Оно доступно всем желающим, достаточно открыть соответствующие учебники.

Это еще одна неверная субъективная интерпретация.

-- 15.10.2024, 11:54 --

Ghost_of_past в сообщении #1658585 писал(а):

Это задача второго порядка. Первичная - понять природу биологического сознания.

Для создания самолета не требуется изучать физиологию птиц, надо изучать аэродинамику, физику... Это давно известный "избитый" аргумент.
Для создания искусственных мыслящих систем физиология и прочие "мясные" подробности не являются необходимыми.

[Ghost_of_past]

realeugene в сообщении #1658608 писал(а):

А можете пояснить, почему положение шариков центробежного регулятора не является субъективным восприятием этого центробежного регулятора как системы скорости вращения вала?

А что тут пояснять? Полноценный феноменально переживаемый субъективный опыт возникает с появлением феноменального сознания, т.е. способности осознавать этот самый субъективный опыт. Центробежный регулятор феноменальным сознанием не обладает, если мы только не встанем на позицию условного панпсихизма, расширив понятие "сознание". Но это кстати не значит, что центробежному регулятору как материальной системе не присущи какие-то менее сложные формы отражения.

[b4b5]

Чтение программой лога своей работы - вполне себе субъективный опыт и зачатки самосознания.

[realeugene]

Ghost_of_past в сообщении #1658624 писал(а):

Полноценный феноменально переживаемый субъективный опыт возникает с появлением феноменального сознания, т.е. способности осознавать этот самый субъективный опыт.

Почему угол отклонения шариков неполноценный субъективный опыт регулятора? Или у вас по определению для опыта нужно сознание? Скорее всего это не так. Любая коррелирующая с внешним миром сохраненная в состоянии устройства информация есть опыт.