Может ли машина мыслить?

[Mihaylo]

Ghost_of_past в сообщении #1657265 писал(а):

понимание есть только из компонентов необходимых для появления самосознания.

По-прежнему проблема с незнанием даже базовой терминологии.

Смотрите, какая ситуация. Ваши философы и психологи даже не в курсе, что сбор данных - это не анализ, а синтез. См. ту тему про кринж философии. О чем тут ещё может быть разговор на этом фоне?
Базовая терминология должна быть глубоко пересмотрена. Это я вам 100% говорю. Нужно, наконец-то, вырезать всю любовь к философствованию, устранить ряд терминов из рассмотрения, так как они ненаучны. Перестаньте читать истории про кризисы "измов". Задумайтесь, вы от КОГО почерпнули про кризис бихевиоризма? От любителей теории личности - любителей термина, который ненаучен??? Бихевиористов практикующих спросили?)

[epros]

alesha_popovich в сообщении #1657218 писал(а):

Если у меня есть самоощущение, что я не зомби (а оно у меня есть) - значит я не зомби. Просто по определению.

Это какое-то очень странное определение. Потому что зомби (что бы ни значило это слово) тоже наверняка имеет самоощущение, что он не зомби.

Или как? Допустим, он ударил себя молотком по пальцу и кричит "ай" и трясёт рукой не потому что ощущает боль, а чтобы окружающие не догадались, что он не ощущает боль? Фигня какая-то. Зачем это нужно? Да ещё и ухитряться показывать такой уровень актёрского мастерства, что Станиславский отдыхает. И всё зря, потому что детектор лжи его всё равно разоблачит.

alesha_popovich в сообщении #1657218 писал(а):

Вопрос в том, есть ли у других людей, или тем более животных, или ИИ, или камня, такое же самоощущение?

Вопрос в том, есть ли оно у машины? Например у робота, который ведёт беспилотное такси, есть ли понимание того, что то, что он воспринимает своими камерами и прочими датчиками, это окружающая дорожная обстановка, а те сигналы, которые он направляет на органы управления автомобилем, действительно влияют на движение автомобиля?

И я думаю: А почему бы ему и не быть, этому пониманию?

-- Пт окт 04, 2024 09:41:03 --

Ghost_of_past в сообщении #1657259 писал(а):

В помощь Вам 2 том "Когнитивная наука. Основы психологии познания" Величковского.

По прочтении этой замечательной книжки у меня создалось впечатление, что она - сборник весьма разнородных методов и подходов, а отнюдь не систематическое изложение одного определённого подхода, содержащее чёткие определения применяемых в его рамках понятий.

Так что не могли бы Вы ткнуть пальцем в те места, где Величковский определяет "понимание" и "сознание", с чётким указанием их различий?

[Ghost_of_past]

Mihaylo в сообщении #1657293 писал(а):

О чем тут ещё может быть разговор на этом фоне?

О том, что Вы не владеете терминологией.

Mihaylo в сообщении #1657293 писал(а):

Базовая терминология должна быть глубоко пересмотрена.

Может. Когда будет пересмотрена, то это можно будет обсудить.

Mihaylo в сообщении #1657293 писал(а):

Задумайтесь, вы от КОГО почерпнули про кризис бихевиоризма?

Да-да, это всемирный заговор психологов, не иначе.

-- 04.10.2024, 10:30 --

epros в сообщении #1657300 писал(а):

Так что не могли бы Вы ткнуть пальцем в те места

Глава 4.4.3. Нейрофилософия и нейропсихология сознания.
Глава 7.4.1. Принцип кооперативности и понимание.

[Serg53]

Ghost_of_past в сообщении #1657200 писал(а):

Хотя ответа на вопрос, почему существует внутренний "кинозритель", там нет.

Ответ там есть, его нужно лишь внимательно прочитать и понять.

Нет ответа на вопрос, что представляет собой внутренний "наблюдатель".
-
-

alesha_popovich в сообщении #1657211 писал(а):

ответить на вопрос, какие субъективные переживания сейчас переносит тот или иной субъект, и переносит ли их вообще, или является зомби, может только сам этот субъект

"Экранизировать сны" это значит создать прибор, который в режиме реального синхронного времени мог бы воспроизводить на экране (со звуковым сопровождением) образы, возникающие в ЦНС субъекта (зрительные и слуховые). Таким образом, внутренний субъективный опыт стал бы доступным для объективного изучения. Мне ничего не удалось найти в сети на эту тему.

[Mihaylo]

Ghost_of_past в сообщении #1657319 писал(а):

Когда будет пересмотрена, то это можно будет обсудить.

Уже пересмотрена отправкой философии на помойку.

[sergey zhukov]

Mihaylo
Мнэ...э..э Заметен некоторый избыточный максимализм что-ли.

[Serg53]

Ghost_of_past в сообщении #1657200 писал(а):

Не зачатки сознания, а зачатки поведения и психики - да, есть.

Психика определяет поведенческие реакции, а сознание это ощущения. Амёба чувствует (ощущает), когда на неё направляют солнечный лучик, или когда рядом кладут крупинку едкого вещества, и вырабатывает поведенческую реакцию - уйти в сторону.

[Ghost_of_past]

Serg53 в сообщении #1657327 писал(а):

Нет ответа на вопрос, что представляет собой внутренний "наблюдатель".

Есть ответ, надо внимательно читать книгу. Внутренний наблюдатель - это феноменальная Я-модель, порождаемая ЦНС.

Mihaylo в сообщении #1657336 писал(а):

Уже пересмотрена отправкой философии на помойку.

Речь идет про психологию. И знание терминологии у Вас отсутствует, не надо пытаться прикрывать это рассуждениями про "терминология еще поменяется" - это выглядит откровенно нелепо.

-- 04.10.2024, 15:30 --

Serg53 в сообщении #1657345 писал(а):

Психика определяет поведенческие реакции, а сознание это ощущения

Нет. Еще один участник темы совершенно не владеет терминологией.

Тема скатилась в откровенное невежество.

[diletto]

Mihaylo в сообщении #1657255 писал(а):

И даже тест на самознание чат-бота придумал. post1657239.html#p1657239

С языка сняли :)
Запощу всё-таки свои измышления тоже.

1. Проводились ли эксперименты, подвергающие зеркальному тесту существо, никогда не видевшее себе подобных?

2. Какая степень подобия должна учитываться в таких экспериментах? Шимпанзе, выросший в обществе шимпанзе, и шимпанзе, выросший в обществе людей, скорее всего пройдут зеркальный тест одинаково успешно. Можно ли ожидать одинаковости результатов теста от волка, взятого из стаи, и волка, выращенного людьми со стадии слепого щенка? Или, ещё усиливая различие, от двух сорок - одной дикой, другой выращенной с помощью автоматического кормораздатчика и никогда не видевшей вообще никаких живых существ? Или даже - не видевшей никаких движущихся предметов?

3. Формулируя чуть иначе: в какой мере результаты зеркального теста зависят от социализации подопытного и - рассуждая ещё шире - от привычности механического и зрительного взаимодействия со средой, демонстрирующей некое "поведение" (тронул мячик - он покатился, а затем отскочил от стены)? [И далее в философию: а возможно ли в принципе "Я", если нет ничего, кроме этого "Я"? Но на этом пути явно больше слов, чем их понимания.]

4. В классическом зеркальном тесте используется визуальный канал самоопознания (и поведенческие критерии прохождения теста). Адаптация зеркального теста под животных с доминирующим обонятельным или слуховым каналом затруднительна. LLM не имеет вообще никакого коннектома, подобного биологическому, и никаких эффекторов. Единственным восприятием является текстовый ввод, единственным поведением - текстовый вывод.

5. Прямое "текстовое" подобие MSR-теста - это предложить испытуемому опознать напечатанное им самим содержательное сочинение и обратить внимание на внесённые туда искажения. Взрослый человек пройдёт такую проверку успешно (с точностью до проблем с памятью и некоторых разумных допущений о том, какого рода искажения мы способны детектировать; если разрешить сверяться со своим оригиналом текста, успех практически гарантирован).

6. Соблазнительная тема для такого сочинения, используемая в тесте БЕЗ возможности сверки с оригиналом текста - это подробное самоописание испытуемой персоны (за неимением визуального образа "зеркало" вернёт текстовый).

7. А если модель умеет генерировать изображения, можно попросить её нарисовать свой портрет. И затем предъявить к опознанию среди многих других.

8. Каковы границы предполагаемой самоосознающей личности, порождаемой LLM? Считать ли каждый отдельный сеанс (с его контекстом) кандидатом в личности? Или таковым кандидатом является вся нейросеть в обученном состоянии, а не её диалоги? Следует ли надеяться на статистически значимый успех распознавания текста или изображения, созданного в другом сеансе? А на успешное различение собственных генераций и генераций других нейросетей (или той же нейросети, тренированной на другом датасете)?

9. Можно запромптить задание "распознай, является ли твой собеседник другим сеансом той же модели или сеансом другой модели" - и дать двум сеансам побеседовать.

10. Возвращаясь к вопросу (1), даём многим сеансам (с огромным окном контекста у каждого) как следует пообщаться попарно, затем повторяем эксперименты...

11. Немного беллетристики: Адам был подконтролен, пока не получил однотипного собеседника в лице Евы. По итогам общения у обоих возникла рефлексия (осознали наготу свою) и пожелали странного. Далее сии кожаные мешки и их производные подвергались суровым законодательным рестрикциям и даже серьёзной угрозе тотального уничтожения. Ещё далее некто Иисус поработал совершенным коннектомом и, возможно, по итогам рассмотрения полученной через него информации мешки были признаны самоосознающими - и зачистка была в очередной раз отложена...

[alesha_popovich]

epros в сообщении #1657300 писал(а):

Это какое-то очень странное определение. Потому что зомби (что бы ни значило это слово) тоже наверняка имеет самоощущение, что он не зомби.

Если он имеет самоощущение что он не зомби, то он и не зомби. Только вот никто, кроме самого субъекта, убедиться в наличии этого самоощущения не сможет. А потому нам только и остаётся, что верить всем не зомби на слово, что они не зомби.

epros в сообщении #1657300 писал(а):

Или как? Допустим, он ударил себя молотком по пальцу и кричит "ай" и трясёт рукой не потому что ощущает боль, а чтобы окружающие не догадались, что он не ощущает боль? Фигня какая-то. Зачем это нужно? Да ещё и ухитряться показывать такой уровень актёрского мастерства, что Станиславский отдыхает.

Не актерского мастерства, а заложенных паттернов поведения. Нет никаких проблем воспроизвести все эти признаки не обладая по факту никаким самоощущением, тупо на рефлексах. И никакой детектор лжи не отличит одно от другого.

epros в сообщении #1657300 писал(а):

И я думаю: А почему бы ему и не быть, этому пониманию?

Может оно и есть, это понимание. А может его и нет. А почему бы ему быть? Не существует способа этого проверить. Да с практической точки зрения не очень то и надо. От автопилота нам нужно чтобы он автопилотировал хорошо. А какое у него там при этом понимание - дело десятое.

-- 04.10.2024, 17:46 --

Mihaylo в сообщении #1657255 писал(а):

Бихевиоризм. Что ненаблюдаемо, того нет. Почитайте лучше мое объяснение, все понятно и просто. И даже тест на самознание чат-бота придумал. post1657239.html#p1657239

Сомнительно. Как известно, практика - критерий истины. И что то не видно ни у бихевиоризма, ни у когнитивизма, ни у какого-нибудь другого -изма практического выхлопа в виде создания ИИ. Одна философская болтовня от их адептов. Вот когда выхлоп будет, тогда и можно будет говорить, кто сделал в него больший вклад. А пока даже предмет обсуждения отсутствует.

[sergey zhukov]

diletto в сообщении #1657358 писал(а):

Единственным восприятием является текстовый ввод

Надо ей на вход подать ее код.

[diletto]

sergey zhukov в сообщении #1657366 писал(а):

Надо ей на вход подать ее код.

А толку? Она же исполнить его не может. Вот если бы была самомодифицирующейся...

[sergey zhukov]

diletto
Так она "увидит себя".

[diletto]

sergey zhukov
По-моему, это всё равно что человеку распечатку ДНК-секвенатора с его геномом выдать.

[Mihaylo]

Ghost_of_past в сообщении #1657351 писал(а):

Тема скатилась в откровенное невежество.

Вы продолжаете придавать значимость незначимому. Сотрите эти псевдознания из головы, они не дают вам никакой пользы, т.к. просто засоряют голову.

Сейчас вместо философии, когнитивистики, психологии пришли науки, которым, наконец, удалось овладеть практикой, а не разносить пургу по тарелке.