Разум, чувства, личность vs компьютероподобный ИИ

[Martynov_M]

Любая разумная форма жизни умеет чувствовать, что она проживает эту жизнь. А что чувствует ИИ, когда он проживает очередной день на Земле? Или он вообще ничего не чувствует?

Википедия пишет, что зачатки сознания есть у млекопитающих, птиц, осьминогов, и у многих других живых существ в следствии присущей им развитой нервной системы. Развитая нервная система позволяет таким живым существам чувствовать свою массу тела, боль, прикосновения, испытывать эмоции, и тем самым осознавать себя в этом мире и реагировать на других существ, на события. А как ИИ реагирует на мир? Испытывает ли он боль? Переживает ли ИИ за то, что завтра его сотрут с жесткого диска? Что он чувствует, когда ковыряются в его коде? Что он чувствует при общении с другими существами? Или он ничего не чувствует?

Вот человеку всегда что-то хочется, как материального, так и нематериального. А что желает получить в этой жизни ИИ? Какие у него потребности? Какие личностные вызовы перед собой он ставит? Испытывает ли он удовлетворение, когда получает то, что он хотел? Или он не является личностью и не может сознательно на что-то влиять? Если он не может сознательно на что-то влиять, тогда у него и разума как такого нет.

Учёные сейчас сходятся во мнении, что определёнными формами разума и зачатками самосознания обладают только некоторые высшие млекопитающие, такие как шимпанзе и дельфины. В их сообществах каждая особь ­- это личность. Говорят, что у дельфинов даже имена есть.

Из Википедии:

Википедия писал(а):

Живая система — единство, состоящее из самоорганизующихся, самовоспроизводящихся элементов, активно взаимодействующих с окружающей средой, имеющее специфические признаки, присущие живым существам…

Модели, в которых управление подчинено отдельному блоку, были признаны недостаточно соответствующими действительности для большинства реальных систем.

Я бы сказал то же самое про ИИ: имитировать некоторые функции человека с помощью алгоритма (компьютерной программы, блока) можно. Но сделать из этого алгоритма, блока полноценную форму жизни со всей её «причудливостью», чтобы этот ИИ чувствовал себя, осознавал себя, задумывался о своем бытие, я думаю, нельзя. Нужно что-то другое.

Имхо. Это моя точка зрения. И она основывается прежде всего на том, что разум, нервная система и мозг человека до сих пор не изучены. Как всё это работает, мы не знаем. Но говорить, что наш разум компьютероподобен или алгоритмичен, как сейчас это модно, - для меня абсурд.

И насколько я понимаю, точка зрения о компьютероподобности, алгоритмичности разума — она маргинальная, не научная. Я не нашел в Википедии упоминания о том, что такой точки зрения придерживается научное сообщество в 2025 году. Поправьте, если я ошибаюсь.

[MoonWatcher]

Есть похожая тема: Обладают ли LLM самоосознанием?

[Ghost_of_past]

Martynov_M в сообщении #1688799 писал(а):

Любая разумная форма жизни

Подозреваю, что у Вас на руках при этом нет четкого дефинитивного аппарата, где бы проводилась граница между разумной формой жизни и неразумной формой жизни.

Martynov_M в сообщении #1688799 писал(а):

А как ИИ реагирует на мир?

А как он должен "реагировать" на мир? У ИИ есть структуры, аналогичные тем, что в нервной системе животных отвечает за реакцию на внешний мир? Есть органы чувств и система обработки информации, получаемой от этих органов чувств?

Martynov_M в сообщении #1688799 писал(а):

Испытывает ли он боль?

У ИИ есть болевые рецепторы и структуры, аналогичные тем, что в нервной системе животных отвечает за восприятие боли?

ИИ, если Вы все про те же самые LLM, в основном своем строятся не на основе бионики, т.е. воспроизведения и копирования принципов организации, свойств, функций и структур реальных живых организмов. Так что непонятно, с чего бы вообще ждать от ИИ умения ощущать боль или наличие психических потребностей.

[Mihaylo]

Боль нужна, чтобы пальцы-руки-ноги не ломать от дури. А если пальцев-рук-ног нет, то боль и не нужна совсем, это не часть необходимого интеллекта. Если боли нет совсем никакой, то это не означает, что интеллект идиот. Болевые ощущения - это наоборот недостаток, это признак неидеальности. Чуть надавил и палец сломал. Природа придумала защиту для этой слабости.

Стереотипы, они такие...

[epros]

Martynov_M в сообщении #1688799 писал(а):

А как ИИ реагирует на мир? Испытывает ли он боль? Переживает ли ИИ за то, что завтра его сотрут с жесткого диска? Что он чувствует, когда ковыряются в его коде? Что он чувствует при общении с другими существами? Или он ничего не чувствует?

А Вы спросите у него. И он ответит... какой-нибудь банальностью.

[Anton_Peplov]

За ощущение боли отвечает передняя часть поясной извилины коры головного мозга. У нее есть участок, реагирующий на боль как на физиологический сигнал, и участок, отвечающий за эмоциональную сторону боли. Этот "эмоциональный" участок активизировался, когда испытуемые наблюдали чужую боль.
Иногда хронические боли лечат удалением этого участка – цингулотомией. Пациент продолжает чувствовать боль, но становится к ней равнодушен. Для него боль перестает быть мучительной и становится рядовым сенсорным ощущением (как, например, ощущение твердого или холодного).
Цингулотомия не сказывается на интеллекте.
Источник: К. Фрит, Мозг и душа. М.: Астрель: Corpus, 2012 - с. 231

Кроме того, при некоторых заболеваниях люди вообще не ощущают боли. Они часто травмируются, т.к. не могут понять даже, что уже отсидели ногу и пора сменить позу. Но на интеллекте это также не сказывается.

Касательно самоощущения есть еще такая любопытная вещь, как синдром Котара. Больной синдромом Котара считает себя мертвым, и никакие рациональные аргументы на него не действуют. Один из пациентов на вопрос, как он в таком случае может двигаться и говорить, ответил, что излучение мобильных телефонов превратило его в зомби.
Синдром Котара встречается редко, так что его неврологическая природа малоисследована. Но в 2014 г. пациентка с синдромом Котара прошла фМРТ. Оказалось, что у нее повреждена кора островка. Одна из функций этой коры – обрабатывать телесные ощущения (жажда, оргазм, переполненный мочевой пузырь и т.д.). Возможно, что при ее повреждении человек в некотором смысле чувствует пустоту на месте собственного тела, и единственным объяснением для сознания оказывается «я умер». Ссылка: Chatterjee SS, Mitra S. "I do not exist"-Cotard syndrome in insular cortex atrophy. Biol Psychiatry. 2015 Jun 1;77(11):e52-3. doi: 10.1016/j.biopsych.2014.11.005. Epub 2014 Nov 13. PMID: 25499876.
Хотя у больных синдромом Котара странные представления о своем существовании, это, насколько я знаю, не сказывается на их способности решать абстрактные задачи.

Вообще знакомство с неврологическими синдромами учит тому, сколь многие компоненты нашей психики могут функционировать независимо друг от друга. Имплицитная память от эксплицитной, долговременная от кратковременной, зрение - от узнавания лиц, узнавание лиц - от узнавания остальных предметов, абстрактный интеллект - от theory of mind. Поучительна в этом отношении книга Оливера Сакса "Человек, который принял жену за шляпу". В связи с этим уверенность топикстартера, что он знает, что необходимо для мышления, а что нет, выглядит наивной.

[Theoristos]

Цитата:

Неумелый подражатель, возжаждав пыток, сделал бы себе бесформенного идола из дерева и воска и, придав ему некоторое сходство с разумным существом, издевался бы над ним суррогатно и неестественно. Но подумай, к чему ведёт дальнейшее совершенствование этого замысла! Представь себе, что другой сделает куклу с граммофоном в животе, чтобы она стонала под ударами; представь себе куклу, которая, если её бить, будет молить о пощаде, куклу, которая станет гомеостатом; представь себе куклу плачущую, истекающую кровью, куклу, которая боится смерти, хоть и прельщается ни с чем не сравнимым её спокойствием! ...

(с)

[Martynov_M]

Theoristos в сообщении #1689437 писал(а):

Неумелый подражатель, возжаждав пыток... представь себе куклу... (с)

Зачем мне всё это представлять?

[Skipper]

Martynov_M в сообщении #1688799 писал(а):

Любая разумная форма жизни умеет чувствовать, что она проживает эту жизнь. А что чувствует ИИ, когда он проживает очередной день на Земле? Или он вообще ничего не чувствует?

1) Во-первых, для человека есть как бы два типа "чувствования что проживаешь жизнь", точнее часть жизни.
Первый тип- это как смотришь кинофильм в кинотеатре, но чувствуешь что на события, там происходящие, своей силой воли повлиять не можешь. Второй- это когда чувствуешь что можешь повлиять на события. Вот прямо сейчас я могу пойти в магазин, а могу в парк, и я действительно делаю выбор, раз такое чувство есть. Что я его делаю. В отличии от событий при просмотре кинофильма.

2) У ИИ же, может быть даже три формы существования. Третья- если он вообще ничего не чувствует, то есть так называемый "философский зомби". Хотя общаясь с ним, нам может казаться что чувствует.
Ну а первые два типа- точно как у людей- первый- видит, чувствует как наблюдатель в кинофильме, но ни на что повлиять не может (своей силой воли).
Ну и второй- может на что-то повлиять, то есть чувствует, как и люди в жизни. (я склонен считать, что сознание может быть у ИИ тоже, как и у людей. Вопрос только, в какой форме- чем сложнее структуры ИИ, тем более развитое).

Это конечно, очень интересные вопросы, и если на них найти ответы, то мы и докопаемся до сути, что же отвечает за сознание,
как за способность что-то чувствовать..