Очередной спор о сравнении ИИ с естественным интеллектом

[EUgeneUS]

mihaild в сообщении #1593443 писал(а):

Но я не понимаю, как он в принципе мог бы сравнить сложность этих задач или интеллект людей.

Большая часть лекций Дробышевского - научно-популярные, по сути - развлекательные. А в такой подаче материала обязательно будут упрощения.
Например, что имелось в виду в той цитате о мозге питекантропа. которую Вы привели? Что структура мозга (которую можно на эндокоранах увидеть) была другая, менее развитая? Или что у питекантропов было короткое детство, что накладывало ограничение на развите мозга в процессе обучения? Неизвестно.

Что касается сложности задач, то насколько понимаю, акцент делается не на уменьшения сложности задач (отдельно взятых задач), а на том, что древним людям надо было решать много разных задач: и тигра в траве высматривать, и огонь добывать, и травки-муравки знать, где какие растут и какие можно кушать, а какие нет, и пути миграции копытных, и так далее и тому подобное.
А современному человеку достаточно уметь "решать интегралы", а всё остальное для него какие-то другие люди делают, каждый своё.

[a.tom]

mihaild в сообщении #1593443 писал(а):

Вообще, если присмотреться, то ИМХО странность идей Чалмерса должна быть очевидной: он по сути утверждает, что помимо физических механизмов, обеспечивающих, что люди говорят о своем восприятии, смотрят на светофор при переходе дороги (иногда) и т.д., есть еще какая-то штука, которая обеспечивает "настоящее" восприятие, но при этом вообще никак с предыдущим не связанная.

Вот вы говорите "очевидной", а что есть очевидность и откуда она вообще взялась? Очевидность и есть качественное восприятие основанное на зрении, а в зрении есть яркость и цвета, контуры форм и их наполнение.
Так вот, если в мире есть физические масса, заряд, частота и т.д., то на каком шаге из этих свойств возникает зрительное ощущение? Как количественные характеристики разнообразных физических свойств порождают новое качество - цвет? Это не глупый вопрос. Он кажется таковым потому что цвет нас сопровождает с рождения и кажется настолько естественным, что вроде бы не должен требовать объяснения. Проблема возникает именно тогда, когда пытаешься его объяснить. И тут по Чалмерсу "все решения плохи".

Что касаемо ИИ, то область лёгких проблем, связанная с когнитивной деятельностью, ему начинает открываться, но вот качественные феномены для него отсутствуют, потому и пониманием он не обладает, потому что понимание - это взаимосвязь формального описания (доступно и нам и ИИ) с феноменальной картиной (пока только нам).

[need_to_learn]

(Оффтоп)

mihaild в сообщении #1593443 писал(а):

need_to_learn в сообщении #1593438 писал(а):

Вопрос же "Почему существует нечто, а не ничто?" построен вполне грамотно и содержит легко читаемый смысл.

Нет, он содержит иллюзию смысла. Потому что на самом деле не для любого утверждения осмысленен вопрос "почему".

Докажите, что для этого утверждения смысл в вопросе "почему" отсутствует. (Бездоказательные категоричные утверждения любой может делать.)

[Mihaylo]

a.tom в сообщении #1593431 писал(а):

То, что у некоторых философов в размышлениях очень много спекуляций и воды, ещё не бросает тень на существующие актуальные проблемы.

Бросает тень да ещё как! Нету актуальных тем. Нету трудных тем. Не надо заговаривать зубы, пожалуйста.)

[ozheredov]

Anton_Peplov в сообщении #1593430 писал(а):

С тем же успехом можно сформулировать "трудную проблему жизни": почему клетка живая, если молекулы не живые. Или "трудную проблему термодинамики": если отдельный атом не подчиняется законам термодинамики, почему им подчиняются большие массы вещества.

Блестящий пример, однако ИМХО Вы слишком высокого мнения об интеллекте философов. Вот более близкий пример: философ утверждает, что в механических часах сидит человечек, который издает звуки "тик-так". Вы, чертыхаясь, вскрываете часы топором, наспех разбираете их по винтику, хватаете философа за его сальные немытые волосы и с размаху прикладываете его фейсом об тейбл, на котором разложены детали часов, предлагая рассмотреть их вблизи и отыскать среди них человечка. А философ спокойно говорит Вам, что это были не те часы и они издавали фальшивый "тик-так", и что настоящий "тик-так" звучит совсем по-другому.

a.tom в сообщении #1593431 писал(а):

Известный мысленный эксперимент Комната Мэри
показывает, что

философы замечательно умеют подменять понятия. Ибо ежу понятно, что иннервация мозга со стороны зрительных сенсоров не эквивалентна процессам обработки текста. Вы как бы берете искусственную нейросеть, называете ее Мэри и принудительно зануляете много-много входных сигналов. Ежу понятно, что веса так обученной ИНС будут отличаться от полученных в результате нормального обучения.

(need_to_learn)

need_to_learn в сообщении #1593438 писал(а):

Почему вообще что-то существует?

need_to_learn в сообщении #1593438 писал(а):

нравятся идеи учёного Макса Тегмарка, который считает, что в основе всего могут лежать математические правила. Дескать, если представить очень сложную математическую модель, которая описывает состояние и эволюцию некой вселенной с точностью до элементарных частиц, и если в этой вселенной будут разумные существа, то для них, очевидно, их вселенная будет "реально существующей и данной в ощущениях".

То есть если я скажу, что что-то существует, потому что так захотел Бог -- это будет мракобесие и опиум для народа. Но если я приплету сюда пару наукообразных терминов (например, скажу, что бесконечная Вселенная возникла в результате деления на ноль), это будет уже наука Философия, рациональное объяснение и все такое, да?

-- 11.05.2023, 16:52 --

need_to_learn в сообщении #1593454 писал(а):

Докажите, что для этого утверждения смысл в вопросе "почему" отсутствует.

Ответ на вопрос "почему" состоит в отыскании предиктивных переменных, изменение которых приводит к предстазуемому изменению состояния интересующего объекта. Если данные переменные отыскать заведомо нельзя, вопрос "почему" бессмысленен.

-- 11.05.2023, 16:58 --

a.tom в сообщении #1593450 писал(а):

Как количественные характеристики разнообразных физических свойств порождают новое качество - цвет?

Оть так: https://youtu.be/gnUYoQ1pwes

[a.tom]

ozheredov в сообщении #1593456 писал(а):

философы замечательно умеют подменять понятия. Ибо ежу понятно, что иннервация мозга со стороны зрительных сенсоров не эквивалентна процессам обработки текста. Вы как бы берете искусственную нейросеть, называете ее Мэри и принудительно зануляете много-много входных сигналов. Ежу понятно, что веса так обученной ИНС будут отличаться от полученных в результате нормального обучения.

Мне кажется, что вы умеете подменять не хуже. В эксперименте человек, но такой, что не имел феноменального опыта цвета, обладая при этом всеми теоретическими описаниями его. После выхода из комнаты она - человек - видит цвет по-настоящему. Получила ли она новое знание о цвете? И если да, то какое оно, это новое знание?
А по вашему примеру - а как поможет не урезание сенсоров? Да хоть вагон сенсоров, потому что эти сенсоры итак в итоге сводятся к бескачественным единичкам и ноликам.

(для ozheredov и need_to_learn)

ozheredov в сообщении #1593456 писал(а):

Но если я приплету сюда пару наукообразных терминов (например, скажу, что бесконечная Вселенная возникла в результате деления на ноль), это будет уже наука Философия, рациональное объяснение и все такое, да?

Я предложу такое объяснение для "почему есть нечто, а не ничто?".
Нечто есть потому, что всё есть ничто, разделившееся в себе. Это как $0\Rightarrow1-1$, т.е. начальное ничто разделилось так, что в сумме равно нулю.

[ozheredov]

a.tom в сообщении #1593457 писал(а):

В эксперименте человек, но такой, что не имел феноменального опыта цвета, обладая при этом всеми теоретическими описаниями его. После выхода из комнаты она - человек - видит цвет по-настоящему. Получила ли она новое знание о цвете? И если да, то какое оно, это новое знание?

Ок, давайте попробую объяснить на пальцах. Вот есть дифференциальное уравнение $f(\dot{x},x,t)=g(t)$, которое описывает взаимодействие Мэри с внешней средой, генерирующей сигнал $g(t)$. Получить все теоретические описания этого сигнела эквивалентно тому, что Вы знаете $g(t)$. Дает ли это знание реакцию Мэри, которая есть $x(t)$? Очевидно, нет, потому как невозможно решить дифур, имея только правую часть в отсутствии левой. Если же Вы знаете $f(\dot{x},x,t)$, т.е. досконально знаете физиологию Мэри, то $x(t)$ просчитывается. И да, детальный просчет реакции каждого нейрона Мэри на заданую совокупность импульсов и сама реакция Мэри это разные вещи -- надеюсь, даже философам ясно, что знание траектории камня с любой точностью и запуск этого камня в голову Томасу Тегмарку in real life -- суть разные вещи.

-- 11.05.2023, 18:01 --

(a.tom)

a.tom в сообщении #1593457 писал(а):

Я предложу такое объяснение для "почему есть нечто, а не ничто?".
Нечто есть потому, что всё есть ничто, разделившееся в себе.

А с чего это ничто вдруг возьми и разделись? Все таки меня мучает вопрос: чем это объяснения Вам больше того, что "Так захотел Бог"?

[a.tom]

ozheredov
Посмотрел я предложенное вами видео. Там много говорится о том, как учитывать цвета, смешивать, организовывать, систематизировать, о фотонах и колбочках, спектрах веществ.
Но нет там того, как цвет образуется в нашем внутреннем мире.

ozheredov в сообщении #1593462 писал(а):

Ок, давайте попробую объяснить на пальцах.

Попробую объяснить на пальцах и я. Вот приходит свет в виде фотонов на сетчатку глаза, и колбочки, в соответствии со своей спектральной чувствительностью, возбуждаются и генерируют импульсы. Эти импульсы предварительно обрабатываются отдельной нейросетевой структурой самой сетчатки, но это не так важно. А вот что важно - далее, по зрительному нерву следуют ОДИНАКОВЫЕ импульсы в зрительную кору (часть следует в четверохолмие и т.д.). Потом эти одинаковые импульсы, не содержащие в себе никакого качественного содержания, обрабатываются в зрительной коре, и - о, чудо! - на каком-то этапе рождается цветное зрение (немного упростил).
Теперь вопрос: где рождается цветное зрение? в глазах? - нет, сетчатка только подготавливает сигналы для зрительной коры, и хотя там производится разделение по цвету, и идут сигналы разных цветов по разным нервам, но передаются эти сигналы одинаковыми импульсами, совсем не цветными. Затем эти одинаковые импульсы каким-то образом ложатся на структуру, способную воспроизвести качество - цвет. Вот этого нет у современных ИИ. Нет у них структур для построения субъективной картины.

(Оффтоп)

ozheredov в сообщении #1593462 писал(а):

А с чего это ничто вдруг возьми и разделись? Все таки меня мучает вопрос: чем это объяснения Вам больше того, что "Так захотел Бог"?

Потому что при разделении не запрещено всё, что будет давать в сумме нуль. Противоположные импульсы, формы, содержание, моменты и т.д.. Главное, чтобы был в сумме нуль. Тогда не требуется причины для существования, потому что ничто в причине для существования не нуждается

[Mihaylo]

Я обратил внимание, что ряд людей на нашем форуме применяют излюбленные философские выверты, при этом как будто это писал один и тот же человек. Это не любители философии, а какие студенты кафедр или может быть выпускники... Но что ж? Обращение к любителям философии:

Итак, представьте китайскую комнату а-ля GPT. У нее нет сознания, чего-то такого не хватает... Какой-то изюминки.
1. Философы предлагают добавить сознания и понимания.
2. Ученые предлагают изменить структуру нейронной сети, улучшить метрики, избавиться от переобучения, придумать новые подходы к обучению с подкреплением.

Утверждается, что 1 и 2 - это одно и то же. Если это не одно и то же, то докажите.)

-- 11.05.2023, 20:38 --

a.tom в сообщении #1593466 писал(а):

Нет у них структур для построения субъективной картины.

Зачем строить субъективные картины?

[a.tom]

Mihaylo в сообщении #1593467 писал(а):

Утверждается, что 1 и 2 - это одно и то же. Если это не одно и то же, то докажите.

Это - одно и то же. Дело за малым - осталось найти такое устройство нейросети, которое сможет строить на качествах внутреннюю модель внешней реальности, основываясь на сенсорных данных, а уже далее осмысливать эту модель речевыми генеративными моделями. Только генерировать в основном отталкиваясь от собственной феноменальной модели.

Mihaylo в сообщении #1593467 писал(а):

Зачем строить субъективные картины?

Не знаю. Но у нас она строится? Мы учимся не на пустом месте, а опираясь на эту картину.

[ozheredov]

a.tom в сообщении #1593466 писал(а):

Потом эти одинаковые импульсы, не содержащие в себе никакого качественного содержания, обрабатываются в зрительной коре, и - о, чудо! - на каком-то этапе рождается цветное зрение (немного упростил).

Попробуем определиться с терминами: что такое качественное содержание?

[Mihaylo]

a.tom в сообщении #1593468 писал(а):

Только генерировать в основном отталкиваясь от собственной феноменальной модели.

Обучение с учителем и обучение с подкреплением позволяют получить модель. Давайте разберемся, собственная ли эта модель? Ну конечно же. Даже при обучении распознаванию каких-нибудь простых изображений получается уникальная модель, способная распознавать изображения, которые не показывали ей.
Хотя некоторые считают, что GPT не умеет обобщать, а человек - 100% может.

P.S. Про построение субъективных картин я пропущу.

[a.tom]

ozheredov в сообщении #1593471 писал(а):

Попробуем определиться с терминами: что такое качественное содержание?

Это цвет. Импульсы цветом не обладают.

Mihaylo в сообщении #1593472 писал(а):

P.S. Про построение субъективных картин я пропущу.

Я отталкиваюсь от того, что уже придумано природой. Мы обладаем интеллектом, который вырос на феноменальной внутренней субъективной картине. Сперва надо повторить природу, а не стремиться выдумать новое.

[ozheredov]

Mihaylo в сообщении #1593467 писал(а):

Философы предлагают добавить сознания и понимания.

Не предлагают -- в лучшем случае на GPT им плевать, в среднем -- он для них враждебный чужеродный объект. Их интересует резонанс чувств, когда Вы с вашей подругой одновременно наблюдаете красивый закат. И утверждение состоит в том, что Вы можете усмотреть нечто в глазах, голосе и осанке подруги, что заставит Вас испытать желание обнять ее. А GPT, гляда на то же самое, не захочет никого обнять, и никто не захочет обнять GPT.

Mihaylo: Ну это еще надо доказать!!
ozheredov: Прямо сейчас начинаю писать код на Пайтоне.

-- 11.05.2023, 19:41 --

a.tom в сообщении #1593474 писал(а):

Это цвет. Импульсы цветом не обладают.

Ясно. Ок, начнем с примера: когда ударяют в барабан, идет звук. Барабан обладает звуком? И где он там у него сидит?

[Mihaylo]

ozheredov в сообщении #1593477 писал(а):

А GPT, гляда на то же самое, не захочет никого обнять, и никто не захочет обнять GPT.

Насколько я понимаю, в данном случае под GPT вы понимаете некую модификацию, имеющее тело... У тела будут мышцы или двигатели, которые позволят роботу повторять объятия... Ну в общем, далее пошел неуправляемый процесс: "в глазах стрельнула искра", и робот обнимает человека (или другого робота). В чем проблема?
Обратное явление, да, проблематичнее. Человек видит в своем партнере продолжателя рода, как известно. Но какой продолжатель рода из робота? Максимум секс-машина... И это объективно. И эта функция не требуется.

-- 11.05.2023, 21:57 --

ozheredov в сообщении #1593477 писал(а):

он для них враждебный чужеродный объект

До того момента, пока GPT путает фамилию Путина с Байденом, то да, чужеродный. Но стоит стать GPT почти безошибочно умной, то мнение может измениться! У машины субъективно появится сознание (то, чего в действительности ни у кого нет).