Искусственный интеллект с точки зрения программистов

[uni]

Сам Р. Пенроуз не рассматривает случайные или псевдослучайные процессы как связанные с
"невычислительным процессом", наоборот, он говорит, что "Из всех типов вполне определённых процессов, что приходят в голову, большая часть относится, соответственно, к категории феноменов, называемых мною "вычислительными" (имеются в виду, конечно же, "цифровые вычисления"). Возможно читатель уже начал волноваться, что сторонники позиции С так и останутся у нас не при деле. Причём я ещё ни словом не упоминал о строго случайных процессах, которые могут быть обусловлены, скажем, какими-либо исходными данными, получаемыми от квантовой системы. (О квантовой механике мы немного подробнее поговорим во второй части, главы 5 и 6.) Впрочем, для самой системы практически безразлично, подаётся на её вход подлинно случайная последовательность или же всего лишь псевдослучайная, которую можно целиком и полностью сгенерировать вычислительным путём (см. параграф 3.11). Действительно, несмотря на то, что между "случайным" и "псевдослучайным", строго говоря, существуют некоторые формальные отличия, они, на первый взгляд, не имеют непосредственного отношения к проблемам ИИ. Далее, в парагр. 3.11, 3.18 и последующих, я приведу некоторые серьёзные доводы в пользу того, что "чистая случайность" и в самом деле абослютно бесполезна для наших целей; если уж возникнет такая необходимость, то лучше всё же придерживаться псевдослучайности хаотического поведения, а все нормальные типы хаотического поведения, как уже подчёркивалось выше, относятся к категории "вычислительных"".

От-так от. Чуть далее на середине книжки, читаем:
"В рамках настоящего рассуждения я буду полагать, что ни один из подобных псевдослучайных элементов не играет в происходящем иной роли, чем та, которую могут выполнить (по меньшей мере с тем же успехом) элементы подлинно случайные. Вполне естественная, на мой взгляд, позиция. Впрочем, не исключается и возможность обнаружения в поведении хаотических систем (отнюдь не сводящемся только лишь к моделированию случайности) чего-то такого, что может послужить приближением какой-либо интересующей нас разновидности невычислительного поведения. Я не припомню, чтобы такая возможность где-либо всерьёз обсуждалась, хотя есть люди, которые твёрдо убеждены в том, что хаотическое поведение представляет собой фундаментальный аспект деятельности мозга. Лично для меня подобные аргументы останутся неубедительными до тех пор, пока мне не продемонстрируют какое-нибудь существенно неслучайное (т.е. непсевдослучайное) поведение такой хаотической системы - поведение, которое может в сколько-нибудь сильном смысле являться приближением поведения подлинно невычислительного. Ни один намёк на подобного рода демонстрацию моих ушей пока не достиг. Более того, как мы подчеркнём несколько позднее (парагр.3.22), в любом случае маловероятно, что хаотическое поведение сможет проигнорировать те слжности, которые представляет для вычислительной модели разума гёделевское доказательство."

В общем и целом, пол книжки автор отыскивает и "популярно на пальцах" рассказывает о известных вычислительных процессах. Попутно довольно увесистая часть посвящена разного рода мнениям о выводе: "Для установления математической истины математики не применяют заведомо обосновонной процедуры". Как автор пишет: "Мне представляется, что к такому выводу неизбежно должен прийти всякий логически рассуждающий человек. Однако многие до сих пор предпринимают попытки этот вывод опровергнуть, и, разумеется, найдётся ничуть не меньше желающих оспорить вывод более строгий, суть которого сводится к тому, что мыслительная деятельность непременно оказывается связана с некими феноменами, носящими фундоментально невычислительный характер.". Пол книги автор проясняет позиции разных сторон и мнений. Чего только не пишут люди. Пока, наконец, не доходим до места, где мы все всё-таки должны согласиться, что есть эта фундаментальная невычислимость и неплохо было бы понять, что же это всё-таки такое и где может находиться. Меня лично не на много хватило. Читал я, как и советовал автор, те места, которые хоть немного понимал. Там даже есть смешной диалог "машинного разума" с его создателем, где разум высмеивает создателся (он же Пенроуз), но после некоторых "невычислительных потуг" отключается (не без помощи создателя).

Так что не всем понятно, да, да далеко не всем, что мы не машины Тьюринга. С гёделевским доказательством или без оного. Книжка интересная, пока имеется в магазинах, интересующимся я бы лично рекомендовал. Когда-то может будет раритетом. Так что, всё-таки пока интеллектуальные агенты, а искуственный разум оставим потомкам, либо квантовым компутерам.

С уважением, Вячеслав.

[В.О.]

незваный гость писал(а):

:evil:
Я говорю о Вашем утверждении, что детерминировааность не допускает ИИ.

Не совсем так. Я говорил, что утверждение Пенроуза о несводимости мышления к МТ можно доказать гораздо проще, исходя из
1. Наличия в мышлении случайных процессов, или
2. Способности человека делать выбор из бесконечного количества вариантов.

Несложно строго доказать, что выбирая направление, человек способен делать выбор из числа вариантов большего, чем любое наперед заданное число N.
Достаточно взять окружность большого радиуса и нанести на нее равномерно распределенные метки на различимом расстоянии. Все метки находятся в равном положении, поэтому все имеют шанс быть выбранными.

[Macavity]

В.О. писал(а):

Пенроуз с помощью теоремы Геделя доказал, что процесс мышления не алгоритмизуем, т.е. не является машиной Тьюринга. Но это очевидно и без теоремы Геделя. При решении задач в процессе мышления происходят случайные процессы.Например, метод случайного тыка. Случайный выбор, короче. Машина же Тьюринга никаких случайностей не предполагает.

Тем не менее исследователи ИИ занимаются также такими чисто "человеческими штучками" как эмоции. Вот страница одного из пионеров ИИ - Марвина Минского, известен, что был одним из изобретателей персептрона, построения системы знаний на базе семантических сетей, впрочем, согласно его идеям интеллект высокого уровня может быть получен как результат взаимодействия простых объектов, вообще лишенных интеллекта.
На его странице (http://web.media.mit.edu/~minsky/ можно найти ссылки на его статьи и на драфт книги "The Emotion Machine".

[Macavity]

В.О. писал(а):

Все это сделать совсем не сложно, но проблема не в этом. Речь идет не о конструировании МТ, а о доказательстве Пенроуза. Кстати, его книга есть (была, во всяком случае) в свободном доступе в интернете.

А ссылочку не укажете?

[незваный гость]

Например, http://www.koob.ru/penrose/. Нашел google. Есть и другие (например, "Новый ум короля" в тексте), так что лучше погуглить самому.

[В.О.]

Раньше было здесь http://www.philosophy.nsc.ru/DEPPHIL/PH ... na/fit.htm
но сейчас, кажется. нет.

Вроде, есть здесь
http://www.koob.ru/penrose/shadow_mind
В крайнем случае, у меня есть в электронном виде. Могу выслать.

Сомневаюсь, что Мински может сделать эмоциональную машину. Внятного определения эмоций в книжке не нашел. Дело в том. что в психологии до сих пор нет общепризнанного определения эмоции, которое можно было бы реализовать в компьютере. Да и не нужно это. Современным компьютерам эмоции пока не нужны. Они вполне обходятся инстинктами, т.е. программами.

[Macavity]

незваный гость и В.О. !

Спасибо. Скачал с koob.

А вообще, вопрос с человеческим интеллектом очень непрост. Менделеев думает над своей задачей, идеи есть, нет решения и вот ночью ему снится таблица, которая и является решением. То есть человеческий мозг не так уж и управляем (или он управляем на стратегическом уровне, но задачу может решить и сам). Или когда решается сложная задача, никакие стандартные подходы не срабатывают и вдруг возникает "золотая идея", которая объясняет все. Это не объяснишь никакими "универсальными решателями задач", мозг - загадка. А И.И. пока пытается только эмулировать методы решения задач... С другой стороны, возможно, человек (его мозг) подсозначельно использует что-то вроде генетических алгоритмов, которые модифицируют стандартные подходы к решению задач, возможно, случайным образом, в результате и может возникнуть "золотая идея".

[Someone]

Когда-то очень давно читал книжку Амосова об искусственном разуме. Он рассматривал разум как сеть из моделей различных явлений и объектов внутреннего и внешнего мира. В каждый момент времени каждая модель имеет определённый уровень активности. Модели взаимодействуют друг с другом в зависимости от своей активности. Сознание он рассматривал как систему усиления-торможения, которая находит самую активную модель и дополнительно её усиливает, а другие модели, наоборот, притормаживает. Эмоции по Амосову - это подсознательные процедуры оценки (хорошо - плохо). Амосов занимался компьютерным моделированием таких сетей.

[uni]

В.О. писал(а):

Не совсем так. Я говорил, что утверждение Пенроуза о несводимости мышления к МТ можно доказать гораздо проще, исходя из
1. Наличия в мышлении случайных процессов, или...

Уважаемый В.О., мне интересно, а как просто доказывается наличие случайных процессов в мышлении. Первое, что мне пришло на ум - это заставить человека быть генератором случайных последовательностей. Тут долго опытничать не надо, чтобы понять - человек, чтобы он не делал - очень плохой генератор псевдослучайных или случайных чисел. На том держется игровая индустрия. Я полагаю, что разум управляет всеми действиями человека. Но если даже там в мозгу и есть нечто случайное, то доказать просто это что-то не верится что возможно. Я думаю, что во вне "выдаются" уже отфильтрованные процессы и никакой случайности по внешним признакам познать не удастся. Отфильтрованные - ну, это грубо означает, что человек - "тормоз". По пути во вне все случайности сглаживаются "устройством" тела, либо дополнительными размышлениями.
Вы слишком часто употребляете слово "проще", притом не удосуживаясь пояснить простоту, если уж она такая простая, то черкнули бы для тех, кто "притормаживает" (типо меня) и не уясняет всей красоты простоты.

С уважением, Вячеслав.

[В.О.]

Да, была такая книжка - Амосов Н.Н. Касаткин А.М., Касаткина Л.М. Автоматы и разумное поведение. Киев, Наукова думка. 1973.
Там основой моделирования психики были т.н. i-модели, о которых Вы говорите. Активность одних i-моделей могла усиливать или ослаблять активность других. Усиление соответствует физиологическому процессу сенситизации. Самая активная модель соответствует доминанте Ухтомского и т.п. В целом, толковая модель.Вот только лет за 15 до этого появилась модель нервной системы Хебба, в которой i-моделям Амосова соответствовали нейроны в модели Хебба, которые тоже могли возбуждать и тормозить друг друга. Сейчас Амосова никто не вспоминает, а вот модель Хебба жива и процветает см. например http://www.keldysh.ru/pages/mrbur-web/p ... index.html

Еще были автоматы Цетлина, программа "Животное". Но все это, кажется, в прошлом. А время было интересное.

[В.О.]

uni писал(а):

как просто доказывается наличие случайных процессов в мышлении.

Если говорить только об упрощении доказательства Пенроуза, то под случайностью нужно подразумевать недетерминированность. Такая случайность , практически, очевидна. Каждый из нас много раз за день делает случайные выборы, например, будучи просто не способным рассмотреть все варианты из достаточно большого числа.
Если же под случайностью подразумевать способность выдавать (псевдо)случайную последовательность равномерно распределенных на отрезке чисел, то такой способностью мы явно не обладаем.Мы не можем даже имитировать случайную последовательность выпадения орлов и решек. Такие эксперименты были и статистические характеристики последовательностей, выдаваемых людьми, заметно отличались от случайного блуждания.

Думаю, Вы совершенно правы. На чисто случайные процессы, происходящие где-то в психике накладывается разумное рациональное поведение и в результате получается нечто трудно разделимое. Но для упрощения доказательства Пенроуза это не имеет значения.

[uni]

Цитата:

Если говорить только об упрощении доказательства Пенроуза, то под случайностью нужно подразумевать недетерминированность. Такая случайность , практически, очевидна. Каждый из нас много раз за день делает случайные выборы, например, будучи просто не способным рассмотреть все варианты из достаточно большого числа.

Вот-вот, именно эта практическая очевидность меня и смущает. А вот кто сказал, что вариантов бесконечное множество? С тем же кругом, когда нужно выбрать направление. Может человек и не осознаёт всю неограниченность выбора, т.е. я хочу сказать этой неограниченности не существует в действительности. Человек посмотрит вокруг себя и видит круг, думает дальше куда бы пойти? Не долго думая выбирает то направление, которое увидел самым первым. Это один вариант. Пьяный человек выберет направление, куда покажет сила притяжения. Слепой, что он выберет, если ему расскажут о выборе? Я к тому, что если нет в действительности бесконечного выбора, а только те варианты, которые спонтанно возникают из-за воздействий из-вне или изнутри (но не из-за случайностей). Я полагаю, что это будет ограниченный набор вариантов для каждого момента восприятия. Тогда не приходится говорить о случайности, о формирователе её где-то в мозгу, а лишь о существовании её во мнении как удобной модели описания действительности? Думаю, я более менее понятно изложил мысль. Что Вы на это скажете, уважаемый В.О.? Могёт такое быть?

[В.О.]

uni писал(а):

Могёт такое быть?

Могёт, могёт. Еще как могёт.
Только давайте поточнее определимся о чем речь. Во-первых, не утверждается, что все люди каждый раз совершают выбор из бесконечного числа вариантов. Утверждается. что некоторые люди иногда совершают выбор из бесконечного числа вариантов.

Кто сказал, что вариантов бесконечное множество? В математике принято считать, что через точку проходит континуум прямых. Такая модель реальности, кажется, достаточно себя зарекомендовала.

Конечно, человек может не осознавать (а может и осознавать) бесконечность выбора. Но это не мешает ему делать выбор из бесконечного числа. См. д-во.

Конечно, человек может выбрать то направление, которое видит первым. А какое видит первым? Случайное, если все направления равноправны.

И, конечно, мы можем говорить только об удобных моделях реальности. Мы никогда не сможем непосредственно пощупать те процессы, которые происходят в психике, как физики не могут поместить термометр в центре звезды. Мы можем изучать лишь следствия этих процессов. И если эти следствия согласуются с некоторой моделью, то почему бы нам не считать, что эта модель соответствует реальности?

[Macavity]

Когда речь идет о случайности, то физики зачастую подменяют неизвестный или очень сложный детерминисткий закон вероятностным подходом. Если речь идет о выборе человеком направления движения, то случайность вовсе не означает равновероятность. Есть более предпочтительные направления (более вероятностные), есть менее предпочительные. А абсолютно равновероятностных исходов практически не бывает - всяка монета горбата.
С другой стороны, а существует ли полная детерминированность? Другая пословица говорит - незаряженное ружье раз в жизни стреляет. И вообще, всякий детерминированный (идеальный) процесс можно рассматривать как вероятностный, где вероятности практически равны 1.
Спор о детерминированности и вероятности уже был в квантовой механике. Эйнштейн считал, что квантовая механика должна быть детерминированной наукой, Бор - вероятностной. С точки зрения Эйнштейна, вероятность появляется потому, что неизвестны внутренние механизмы явлений. В нашем случае, идет человек, мы следим за ним, кажется, что он идет в магазин, но он поварачивает в другую сторону, проходит мимо забегаловки, а мы думали повернет, но вот он заскочил в автобус (думая о том, какие это идиоты за ним следят) и мы наконец угадали. С внешней точки зрения процесс вероятностный, с внутренней человек знает куда идет (здесь в одной из дискуссий раздела Математика уже рассматривался вопрос, какую последовательность можно считать случайной и это не тривиальный вопрос).
Мы ждем клиента, точно знаем, что будет сегодня, но ему надо зайти в пять разных мест. Куда он пойдет начале он сам не уверен, может не оказаться нужных людей, но внешне для нас процесс детерминирован, он дожен сегодня с очень-очень-ну_очень высокой вероятностью прийти. А для него самого процесс вероятностый, неясно куда пойдет вначале.
Фейнман совершенно спокойно рассматривал интегралы по траекториям для фотонов и других элементарных частиц, предполагая, что они могут двигаться по криволинейным траекториям (и локально иногда быстрее скорости света в вакууме, иногда медленнее), но есть более вероятностные пути, а есть менее вероятностные. Фотоны почему то выбирают более вероятностные...

[В.О.]

Macavity писал(а):

Когда речь идет о случайности, то физики зачастую подменяют неизвестный или очень сложный детерминисткий закон вероятностным подходом.

Это стандартная точка зрения на понятие случайности в Колмогоровской теории вероятностей, которая предполагает существование скрытых параметров. Если существует набор параметров детерминированно описывающих некий процесс, но не известных, то эти параметры называются скрытыми, процесс является случайным и применяются методы теории вероятностей.
Естественно, что если кому-то известны скрытые параметры. то для него процесс детерминированный.