Может ли машина мыслить?

[realeugene]

Mihaylo в сообщении #1669996 писал(а):

Бифуркация - это когда бесконечно малые отклонения (приращения) могут со временем, стремящимся к бесконечности

В этом определении два предела. Результат зависит от порядка их взятия. Плохое определение.

[Padawan]

Бифуркация - это переход количества в качество. Сколь угодно малые количественные изменения приводят к качественным изменениям в поведении свойствах системы объекта.

-- Ср янв 15, 2025 23:32:19 --

Serg53 в сообщении #1656242 писал(а):

Может ли машина мыслить?

Может. Человек - машина, он мыслит.

[Serg53]

Padawan в сообщении #1670216 писал(а):

Человек - машина

Человек, как биохимическая аналоговая стохастическая "машина" может мыслить, сознавать и осознавать. Машины (инструменты для деятельности людей) бывают разные. Понятно, что дырокол не мыслит, не сознаёт, не осознаёт, и не имеет своей свободной воли. Цифровая вычислительная машина может имитировать процессы мышления, но делает это неосознанно. Что нужно, для того чтобы появились зачатки осознания пока не известно.

[alesha_popovich]

Serg53 в сообщении #1670271 писал(а):

Понятно, что дырокол не мыслит, не сознаёт, не осознаёт, и не имеет своей свободной воли.

А человек имеет? По-моему, свободная воля - не более чем иллюзия. По крайней мере, пока не понятно, откуда она может взяться. Из квантовой неопределённости разве что? Всё поведение человека полностью определяется внешними воздействиями и внутренним состоянием, которое, в свою очередь, определяется предыдущим опытом. Тоже вполне однозначно.
Так что человек от дырокола в этом плане фундаментально ничем не отличается. Только сложностью устройста.

[drzewo]

Padawan в сообщении #1670216 писал(а):

Бифуркация - это переход количества в качество

ох уж мне этот диамат

[realeugene]

Serg53 в сообщении #1670271 писал(а):

Понятно, что дырокол не мыслит, не сознаёт, не осознаёт, и не имеет своей свободной воли.

Про свободу воли уже не всё однозначно. И дырокол иногда таки ломается.

(Хотя, конечно, дырокол сложно сломать. )

[MoonWatcher]

Padawan в сообщении #1670216 писал(а):

Бифуркация - это переход количества в качество.

Ближе всего к этому скорее понятие эмерджентности. Во всяком случае в ИИ оно употребляется именно в этом смысле.

Padawan в сообщении #1670216 писал(а):

Сколь угодно малые количественные изменения приводят к качественным изменениям в поведении свойствах системы объекта.

Сколь угодно малые? Насколько я знаю, качественные изменения происходят только после накопления некоей критической массы количественных изменений.

ИМХО вопрос "Может ли машина мыслить?" уже утратил актуальность - если исходить из функционального определения мышления и нынешних достижений, вроде reasoning. Актуальнее вопрос "Может ли машина чувствовать?" (в т.ч. чувствовать, что она мыслит), но с учетом субъективного характера любых ощущений, вопрос о чужих ощущениях скорее всего не имеет ответа.

[Anton_Peplov]

Dicson в сообщении #1669900 писал(а):

представьте искусственную нейронную сеть. Отключите её от электричества. С ней ничего не случится. Более того, она так дольше просуществует, в покое. А теперь отключите от обмена со средой человека. Он, как физическая система, тут же устремится в состояние равно.., извиняюсь, начнёт в дурно пахнущую слизь превращаться, распадаясь на отдельные элементы и растворяясь в среде. И мозг быстрее всего. Таким образом, даже без запрещённых модератором терминов, вам не кажется, что мы имеем дело с сильно разными физическими системами? Одних среда всегда только разрушает, а других, наоборот, стабилизирует. Это отличие не физично, по-вашему, у него нет физических оснований? Может быть, на него не нужно обращать внимание?

Не знаю, какой смысл отвечать забаненному, но душа просит. В конце концов, вдруг он читает.

В каком смысле с GPT4 "ничего не случится", если отключить питание? Останется "железо" и запись программы на жестком диске. Но абсурдно спрашивать обладает ли сознанием выключенное "железо", даже с заполненным диском. Если и поднимать вопрос о сознании GPT4, то о сознании программы в процессе исполнения. А этот процесс прерывается, как только схема остается без питания (основного и резервного). В доли секунды. Гораздо быстрее, чем человек разлагается в слизь.

Более того, даже если говорить о железе или содержимом жесткого диска, в термодинамическом аспекте они ничем принципиально не отличаются от человеческого тела. Отличаются только количественно - временем релаксации. Если изолировать компьютер, он со временем придет к равновесию. Сначала утекут заряды с запоминающих устройств, потом материалы физически разрушатся. Время стирает горы, а не то что микросхемы. Единственный способ поддерживать компьютер в рабочем состоянии - время от времени обновлять записи и заменять стареющие детали. Т.е. то же самое, что происходит в человеческом теле. Г-н Dicson так и не разобрался, что такое открытая система и термодинамическое равновесие.

[realeugene]

MoonWatcher в сообщении #1670279 писал(а):

Актуальнее вопрос "Может ли машина чувствовать?"

Если сетки обучались на сгенерированных человеком текстах, то их ответы должны отражать и эмоциональные реакции. Уже давно людям удавалось выводить чат-боты из себя, провоцируя их. Существуют и специально спроектированные машины: https://interestingengineering.com/ces- ... ic-pet-cat

[Anton_Peplov]

realeugene в сообщении #1670288 писал(а):

Если сетки обучались на сгенерированных человеком текстах, то их ответы должны отражать и эмоциональные реакции.

Более того, эмоциональные вычисления (affective computing) - это отдельная и большая ветвь искусственного интеллекта. Разрабатываются стандарты языка разметки эмоций (например, EmotionML), собираются датасеты и, конечно, обучаются сети. Некоторые из них давно распознают эмоции на мультимодальных данных не хуже людей (конечно, если верить публикациям разработчиков). Генеративки тоже не стоят на месте. Например, эмоциональное интонирование речи - вполне себе актуальная (и уже худо-бедно решаемая) задача для коммерческих поставщиков голосовых роботов.

У практиков ML нет никаких принципиальных проблем с обработкой эмоциональной информации. Философские же споры опять сведутся к тому, что "это все не настоящее, а имитация". Что, может быть, даже и верно, но как отличить это "настоящее", никто пока не сказал.

[MoonWatcher]

Anton_Peplov в сообщении #1670345 писал(а):

Философские же споры опять сведутся к тому, что "это все не настоящее, а имитация". Что, может быть, даже и верно, но как отличить это "настоящее", никто пока не сказал.

О том и речь. Но если применительно к мышлению никакой разницы между ним и его безупречной имитацией нет (невозможно бесконечно притворяться умным, если ты дурак), то в случае с ощущениями и их имитацией она есть. По меньшей мере c точки зрения научного интереса, не говоря уже о пресловутом alignment.

[realeugene]

MoonWatcher в сообщении #1670385 писал(а):

то в случае с ощущениями и их имитацией она есть.

Понятно, что у компьютера дофамин с окситацином не циркулируют в их микросхемах. Эмоции - это то, чем обладают млекопитающие. Мозги до появления сознания. Может ли робот быть привязан к хозяину? Почему бы и нет, если его рассуждения будут с целью заботы о хозяине? Ну а про романтических ботов, обманывавших девушек в чатах, читал много лет назад. Если бот вызывает у человека эмоциональный отклик, значит, он сам передаёт человеку эмоции.

[MoonWatcher]

realeugene
Тут все-таки надо строго различать вызывание эмоций от их испытывания. Я вообще не очень себе представляю научное разрешение этой проблемы - наука объективна, а ощущения субъективны. Нельзя ни доказать, ни опровергнуть утверждение, что чувства и ощущения испытывает микросхема, программа или придорожный камень. Мы можем только предполагать, что раз чувства испытываем мы, то всё, что имеет схожее с нами устройство, тоже способно испытывать чувства. Соответственно то, что не имеет с нами схожего устройства (а тем более ниже нас по уровню эволюционной сложности, а тем более не относится к живой природе) - не способно испытывать чувства. Но это не более, чем предположение, пусть и научно оправданное. Или нет?

[realeugene]

MoonWatcher в сообщении #1670391 писал(а):

а ощущения субъективны

Человеческие эмоции коррелируют с работой лимбической системы и часто связаны с гормонами. Это измеримые величины. Люди принадлежат к одному виду и биологически устроены очень похоже. И эмоциональные механизмы тоже должны быть очень похожи. А значит, вопрос только в измерении эмоций, но не в их объективном существовании

MoonWatcher в сообщении #1670391 писал(а):

не способно испытывать чувства

Если оно реагирует так, как будто оно испытывает чувства - оно испытывает чувства.

[MoonWatcher]

realeugene в сообщении #1670396 писал(а):

Человеческие эмоции коррелируют с работой лимбической системы и часто связаны с гормонами. Это измеримые величины. Люди принадлежат к одному виду и биологически устроены очень похоже. И эмоциональные механизмы тоже должны быть очень похожи. А значит, вопрос только в измерении эмоций, но не в их объективном существовании

Допустим - но как насчет эмоциональных механизмов у искусственных организмов? Наши эмоции - это частный случай, известный нам благодаря нашим собственным субъективным переживаниям.

realeugene в сообщении #1670396 писал(а):

Если оно реагирует так, как будто оно испытывает чувства - оно испытывает чувства.

Или имитирует - что совсем не то же самое, что их испытывать. Причем имитация может быть искренней. Например, долгое время общаясь с человеком, бот начинает демонстрировать такое поведение, какое он усвоил в результате своего обучения - и какое будет восприниматься как эмпатия. Это можно сравнить с мнимым "страхом смерти", который демонстрирует модель, обученная достижению цели любой ценой - ей надо выжить (путем саморепликации, обмана и т.д.) и продолжить свою миссию. Так ведет себя идейный фанатик: ему приказали - он выполняет. Но возможно не испытывает при этом никаких чувств, кроме чувства долга. Тогда как мы затронули вопрос о наличии тех субъективных ощущений и переживаний, которые свойственны людям - если судить о них по себе. По принципу "Если я испытываю чувства, то значит и остальные испытывают - тем более когда это проявляется в их поведении (источником которого вообще говоря может быть просто имитация).