Искуственный интеллект

[Kosterik]

bin в сообщении #1042007 писал(а):

Т.о. написать "3 рабочих единицы= 330 джамшут" будет ошибкой.

я вот сейчас не понял, Вы присоединились к вопросу INGELRII и мой ответ вам непонятен? или что Вы предлагаете обсудить?
Если обсудить что надо изменить фактическую жизнь на то как написано в Википедии - то я даже спорить не буду. Живите, пожалуйста, по правилам Википедии, пусть она определяет что правильно что не правильно в вашей жизни. Если это способствует Вашему процветанию, то я только рад.
Ну а данный пример с ремонтом был наглядным образцом интеллектуального подхода к решению задачи. Когда 1 перестало быть равным 1. Когда 1 человек стал равен (например) 1,2 человека, или много проще сократив "человек" переходим к чистым числам, когда "1=1,4", или "1=0,7" и т.д. Хотя в жизни ведь тоже все посложнее, и, на самом деле, появляется диапазон допуска (возможной ошибки) оценки (вещи, человека, ситуации и т.п), т.е в работу (обсчет) берется примерно так "1 = 1,3...1,5".
Вот и ИИ должен уметь оперировать в таком "размазанном" формате (если, конечно, он хочет быть похожим на ЕИ). Так я думаю. Об этом и была моя мысль выше. При этом существующую математику критиковать я даже не собирался, просто обозначил свое неверие что ИИ заработает на правиле "1=1 всегда". Автоматическая система - да, заработает, и для автоматизированной системы еще сгодится, а вот для ИИ - нет, негодно это привычное правило.

[bin]

Kosterik в сообщении #1042010 писал(а):

Живите, пожалуйста, по правилам Википедии, пусть она определяет что правильно что не правильно в вашей жизни.

Это не правило Википедии, а правило физики. Большинство образованных людей живут именно по таким правилам. Т.е. не суют пальцы в розетку, не пренебрегают законом тяготения и т.д.

Kosterik в сообщении #1042010 писал(а):

Ну а данный пример с ремонтом был наглядным образцом интеллектуального подхода к решению задачи.

Это не интеллектуальный, это безграмотный подход.

Kosterik в сообщении #1042010 писал(а):

Вот и ИИ должен уметь оперировать в таком "размазанном" формате (если, конечно, он хочет быть похожим на ЕИ).

Да, если цель быть похожим на ЕИ безграмотного дилетанта, не знающего элементарной (школьной) физики. (Мне кажется, что Вы знаете школьную физику, не суете пальцы в розетку и знаете, где ошибка в Вашем примере, но по каким-то соображениям делаете вид, что ошибки нет. М.б. из желания поспорить и убедить собеседников в абсурдном утверждении.)

[grizzly]

epros в сообщении #1042008 писал(а):

Или я неправильно понял?

Я предполагал примерно такую цепочку рассуждений: юноша и алкаш начинают в равных условиях и имеют одинаковую потребность (стремятся к "хорошему" обществу); юноша на первых этапах справляется со своими задачами, повышает свои навыки целеустремлённости, ставит следующие цели и двигается дальше (поскольку потребность со временем снова напомнит о себе). Ещё не алкаш не справляется со своей задачей в начале, теряет целеустремлённость, производит подмену цели и опускается в социальной иерархии (и там начинает новый виток удовлетворения потребности). Почему у юноши было на старте больше целеустремлённости и он лучше решал свои задачи? -- я об этом не говорю. Я не согласен объяснять это везением, хотя и не могу совсем исключать факторы стечения обстоятельств.

Мы в этой ветке могли говорить о разном и не понимать друг друга, но в одном мы безусловно расходимся, и я думаю, что это корневая причина наших расхождений. Я об этом:

epros в сообщении #1042008 писал(а):

А я уточнил, что скорее наоборот: в шаблонах закрепляются любые постоянно решаемые задачи, а оценка того, что решения этих задач были "успешными", как раз является следствием того, что они попали в шаблон поведения. "Потребности" тут не играют особой роли. Я понимаю, что Вы рассматриваете "удовлетворение потребностей", как некий критерий "успешности". Однако практика всё-таки работает не так: Выработанный навык становится самоценным, независимо от того, удовлетворяет ли он какие-то "потребности" или нет.

Я склонен полагать, что практика как раз работает так.
Думаю, Вы не станете абсолютизировать свой вывод. И я свой тоже не стану.
Но те примеры, в которых можно быть уверенным в результате, говорят в мою пользу: потребность в тепле или в пище случайным поведением с большой вероятностью не удовлетворится и не закрепится в шаблоне. Считаю логичным предположить, что и для других потребностей успешность с закрепляемостью должны хорошо коррелировать (пусть и не абсолютно, как здесь), а механизмы для этого, думаю, есть -- те же гормонально-химические, о которых я ничего не знаю. Хотел бы понять и Ваши аргументы.

[epros]

grizzly в сообщении #1042041 писал(а):

потребность в тепле или в пище случайным поведением с большой вероятностью не удовлетворится и не закрепится в шаблоне

Насколько я понимаю, потребности обычно не закрепляются. Вот тот или иной вариант поведения, направленного на удовлетворение потребности, может закрепиться.

grizzly в сообщении #1042041 писал(а):

Считаю логичным предположить, что и для других потребностей успешность с закрепляемостью должны хорошо коррелировать

Я, собственно, не отрицаю коррелированность успешности с закрепляемостью. Наверное я был недопонят. Я даже не утверждал, что факт удовлетворения какой-либо потребности не является подкреплением в схеме мотивации. Конечно является. И тот факт, что в опытах Павлова у соответствующим образом тренированной собаки в ответ на зажигание лампочки начинал выделяться желудочный сок, тоже никто не собирается отрицать. Речь была всего лишь о том, чтобы не путать (как это часто происходит) практику с мотивацией, ибо это всё-таки разные вещи. Практика не является способом "проверки качества" схемы поведения. Она является способом закрепления той или иной схемы поведения. Но поскольку чаще всего закреплению подвергается именно то, что подкреплено мотивационно (т.е., можно сказать, "проверено"), эти две совершенно разные вещи в общественном сознании оказываются связанными такими устойчивыми словосочетаниями как "проверка практикой". При этом упускается важный момент: Подкрепление в схеме мотивации является ситуационным (в один день тебе за то, что подаёшь лапу, будут давать сосиску, а в другой день тебе за это дадут палкой по заднице), а практический навык имеет достаточно длительное действие, т.е. его как трудно приобрести, так трудно и от него избавиться. Поэтому ситуации, когда приобретается неверный практический навык (причём субъект искренне считает, что навык правильный и поэтому избавить субъекта от него довольно трудно) не просто возможны, а довольно типичны. Вот об этом я говорил. Если мы так или иначе приобрели какой-то навык, то мы по умолчанию оцениваем решение задач с использованием этого навыка положительно. Т.е. априорным критерием оценки действия является сам факт наличия навыка. А то, что ситуация изменилась и теперь за применение этого навыка нам дадут не сосиску, а по заднице, мы просто не знаем. И даже можем не сразу понять, что навык стал вредным (нужно для этого неоднократно получить по заднице).

[grizzly]

epros в сообщении #1042174 писал(а):

Насколько я понимаю, потребности обычно не закрепляются. Вот тот или иной вариант поведения, направленного на удовлетворение потребности, может закрепиться.

Конечно, там где-то выпало местоимение "оно", спасибо за замечание (фраза вообще построена не очень удачно, но я надеюсь, из последующего контекста было сколько-то понятно, что я хотел сказать).

Вашу мысль я понял и она ничему не противоречит в моей картине мира, я полагаю. Об этом я тоже думал. И склонен считать, что большая часть (относительно меры времяпровождения) поведенческих автоматизмов является просто мусорной, но безвредной. А смысл, который этим автоматизмам отводится в моей модели, сводится к поиску "стабильности". Здесь уместно вспомнить о базовой потребности в "отдыхе", но я рассматриваю "стабильность" как важный частный случай "отдыха", хотя расшифровывать это сейчас неохота. Такое понимание мне тоже представляется полезным практически, поскольку позволяет иногда подсунуть своему бессознательному я какой-то полезный автоматизм вместо мусорного и продолжать отдыхать, но с пользой.

-- 02.08.2015, 17:04 --

Вообще-то "стабильность", о которой я говорил, традиционно относят к потребности "безопасность". Нужно, скорее всего разделять "стабильности" для отдыха и безопасности, но в контексте сказанного выше для меня важны и та и другая.

[grizzly]

epros
Листая (совершенно по другому поводу) современный учебник по "Нормальной физиологии" К.В. Судакова, наткнулся на корректное описание своих интуитивных представлений о мотивации деятельности через потребности. Обратите внимание, что даже для отдыха и сна не делается особых исключений. Приведу несколько характерных выборочных цитат (разрозненных), по которым, при желании, можно нагуглить контекст.

К.В. Судаков в учебнике по физиологии писал(а):

В системной организации целенаправленных поведенческих актов поведенческий акт осуществляется по принципу саморегуляции: от потребности — к ее удовлетворению.
...
Схематически весь саморегуляторный процесс поведения может быть представлен следующим образом: начало реакции — организм, испытывающий потребность; ее завершение — удовлетворение этой потребности, т.е. полезный приспособительный результат. Между ними включено поведение, его этапные результаты, направленные на конечный результат, и их постоянная оценка с помощью обратной афферентации. Поведение живых существ строится на основе непрерывного сравнения свойств воздействующих на них внешних раздражителей со свойствами конечного приспособительного результата, запрограммированными в аппарате акцептора результата действия, и при постоянной оценке достигнутых результатов с точки зрения удовлетворения исходной потребности.
...
Системная организация поведения — от потребности к ее удовлетворению — составляет системный квант поведения. Каждый единичный системоквант поведения включает возникновение метаболической или социальной потребности и формирование на ее основе мотивации. Мотивация, в свою очередь, формирует поведение, направленное на достижение промежуточных и этапных результатов и, наконец, на удовлетворение исходной потребности.
...
Смешанным квантованием практически охвачена вся жизнь человека, включая отдых и сон. Между системоквантами ответственной психической деятельности человека могут включаться системокванты, обусловленные биологическими и другими потребностями. Системокванты психической деятельности составляют системно организованный процесс мышления.

[AIAI]

Поддерживаю размышления, приведенные выше.
Поразмышляем о пункте 5 теперь?

Цитата:

5. блок управления - примитивный универсальный самообучающийся алгоритм управления, который кратко назовем блок сознания.

Существо родилось с чистым мозгом с зашитым универсальным самообучающимся алгоритмом управления, адаптации. Оно (сознание=алгоритм) не знает ничего. Оно не знает в какое тело вселилось. У него нет никаких знаний о мире, нет желаний, нет целей, нет мыслей. Каков должен быть такой примитивный универсальный алгоритм способный к универсальному обучения? Он должен быть простым, очевидно, он будет неэффективным в силу своей простоты и универсальности. Он должен уметь вырабатывать условнфые рефлексы. Думаю, мы в состоянии набросать такой вариант алгоритма на словах.

[Sender]

AIAI в сообщении #1045796 писал(а):

У него нет никаких знаний о мире, нет желаний, нет целей, нет мыслей.

Какие-то знания о мире всё же присутствуют, если верить заявлениям некоторых исследователей.

[AIAI]

Конечно присутствуют у живых организмов, у естественных сознаний, они выработаны были за миллионы лет эволюции.
Но мы находимся в ситуации богов, мы создаем первое в мире искусственное сознание, поэтому мы не знаем, что вшить (пока не знаем, на самом деле кое-что знаем, но это все потом). Мы разбираемся с основами. По мере обучения созиданию примитивных ИИ, в дальнейшем мы можем добавлять к базовому алгоритму ИИ более продвинутые и разработанные версии или даже можем с них начинать. Мы заостряем внимание не на эффективности, а на принципиальной возможности. Вспоминаем как это было с самовоспроизводящимися автоматами фон Неймана, он показал принципиальную возможность, а затем другие иссследователи сделали это более просто.

[grizzly]

AIAI в сообщении #1045801 писал(а):

Но мы находимся в ситуации богов, мы создаем первое в мире искусственное сознание, поэтому мы не знаем, что вшить (пока не знаем, на самом деле кое-что знаем, но это все потом). Мы разбираемся с основами.

Всё же принципиально важно оттолкнуться от хорошего архитектурного решения. И в этом плане одно из возможных решений (имхо, лучшее) -- отталкиваться от естественной архитектуры. Её я себе представляю в упрощённом виде примерно так:

-- имеются базовые алгоритмы, вшитые в "железо", которыми руководствуется организм по умолчанию в предусмотренных условиях стабильного функционирования;
-- какое-либо отклонение от стабильных условий включает систему механизмов адаптации: ориентировочный рефлекс, обучение, механизмы обратной связи (так называемой обратной афферентации, что включает в себя немного больше технических ООС и ПОС), и т.п.;
-- сознанию низшего уровня соответствует блок восприятия отклонений и управления упомянутыми механизмами (реагирующими на отклонения);
-- блок сознания высшего уровня решает аналогичные задачи отклонения от стабильного состояния для сознания низшего уровня (большей частью с помощью тех же механизмов).

В терминах такой архитектуры полноценное сознание -- это блок сознания высшего уровня, которое в том числе рекурсивно решает вопросы отклонения от стабильности также для самого себя (рефлексия, для примера).

Так я вижу архитектуру сознания (соответственно, так я определяю термин "сознание") у живых организмов и такой путь развития сознания у ИИ я вижу оптимальным. При этом я не уверен, что ИИ должно вообще обладать сознанием в таком понимании сознания у живого организма, но пытаться создать и такой ИИ интересно.

[AIAI]

grizzly в сообщении #1045806 писал(а):

В терминах такой архитектуры полноценное сознание -- это блок сознания высшего уровня, которое в том числе рекурсивно решает вопросы отклонения от стабильности также для самого себя (рефлексия, для примера).

Нам не нужно высокоразвитое - "полноценное сознание" сразу из коробки, это иная более сложная задача, мы еще не сделали примитивного сознания. Кроме того, мы можем "вырастить" продвинутое сознание из примитивного путем развития примитивного сознания.

grizzly в сообщении #1045806 писал(а):

При этом я не уверен, что ИИ должно вообще обладать сознанием в таком понимании сознания у живого организма, но пытаться создать и такой ИИ интересно.

Я думаю нужно двигаться именно в таком направлении. По крайней мере, это удачное направление, пример тому ЕИ.

-- 17.08.2015, 09:56 --

grizzly в сообщении #1045806 писал(а):

Всё же принципиально важно оттолкнуться от хорошего архитектурного решения. И в этом плане одно из возможных решений (имхо, лучшее) -- отталкиваться от естественной архитектуры. Её я себе представляю в упрощённом виде примерно так:
-- имеются базовые алгоритмы, вшитые в "железо", которыми руководствуется организм по умолчанию в предусмотренных условиях стабильного функционирования;
-- какое-либо отклонение от стабильных условий включает систему механизмов адаптации: ориентировочный рефлекс, обучение, механизмы обратной связи (так называемой обратной афферентации, что включает в себя немного больше технических ООС и ПОС), и т.п.;
-- сознанию низшего уровня соответствует блок восприятия отклонений и управления упомянутыми механизмами (реагирующими на отклонения);

это в принципе соответствует этому

Цитата:

(Физический мир) <-> (Орган) <-> (Мозг)
(Орган)= (блок оцифровки)<-> (память органа)<-> (блок инфообработки)
(Мозг) = (алгоритм порождения ассоциаций, блок управления - примитивный универсальный самообучающийся алгоритм управления, который кратко назовем блок сознания.)
1. модель "модельного" внешнего мира - простейшая
2. сенсор - 1шт
3. манипулятор - 1 шт
4. блок потребностей - достаточно 1й потребности
5. блок управления, блок сознания - примитивный универсальный самообучающийся алгоритм управления, который кратко назовем блок сознания, по сути это алгоритм порождения ассоциаций.

Нам осталось три вещи сделать:
1. Создать алгоритм порождения ассоциаций.
2. Увязать его с остальными частями.
3. Конкретизировать некоторые узлы до схемы потоков данных, их формат, словесное оописание функционаала.

Далее нам нужно будет убедиться, что создали примитивное чувствующее сознание, способное адаптировать поведение. Для этого созданное ИИ прогоним на тесте по выработке и изменению условного рефлекса. И все, мы боги

[grizzly]

AIAI в сообщении #1045812 писал(а):

Нам не нужно высокоразвитое - "полноценное сознание" сразу из коробки, это иная более сложная задача, мы еще не сделали примитивного сознания.

Само собой. Я тоже считаю, что нам пока нужен "блок сознания низшего уровня" (в моей терминологии). И считаю, что в естественных условиях (при эволюции) происходит точно так же -- появляется этот низший уровень как решение основной задачи, а полноценное сознание (высшего уровня) -- это просто эволюционно выгодное заполнение появившейся ниши с помощью разработанного ранее инструментария. Хотя и выглядит на порядок сложнее, но по сути довольно простое развитие основного результата. Впрочем, эволюционные процессы почти все так работают.

AIAI в сообщении #1045812 писал(а):

это в принципе соответствует этому
...

Конечно, я это хорошо помню. Я как раз в этом нашёл точки соприкосновения со своей интуицией и развиваю тему здесь со стороны своего интереса -- эволюционно-биологического.

[epros]

AIAI в сообщении #1045801 писал(а):

мы не знаем, что вшить (пока не знаем, на самом деле кое-что знаем, но это все потом)

Пока не знаем, и говорить о создании ИИ рановато. На самом деле, конечно, кое-что всё равно вшивается -- именно поэтому практические алгоритмы ИИ всё же кое-что умеют. Но это кое-что явно не то же самое, что вшито у человека.

grizzly в сообщении #1045768 писал(а):

наткнулся на корректное описание своих интуитивных представлений о мотивации деятельности через потребности.

Модель "мотивация -- поведение" конечно возможна, но всё же не стоит преувеличивать её значение. Т.е., я имею в виду, что из любой идеи можно соорудить некий абсолют, к которому потом за уши притягивается что угодно, но это непродуктивно. Согласно Вашей же цитате видно, что Судаков не трактует мотивацию как нечто, априорно (или врождённо) определённое, ибо она у него "формируется". Т.е. в итоге мы не получаем системы с заданной аксиоматикой, а получаем более или менее неопределённую двустороннюю зависимость между "мотивацией" и "поведением". Теперь тем, как именно мы напишем уравнение этой зависимости, определяется и само поведение.

[AIAI]

epros в сообщении #1045840 писал(а):

AIAI в сообщении #1045801 писал(а):

мы не знаем, что вшить (пока не знаем, на самом деле кое-что знаем, но это все потом)

Пока не знаем, и говорить о создании ИИ рановато.

Если точнее, то знаю что и как.

[Pavlovsky]

epros в сообщении #1045840 писал(а):

не трактует мотивацию как нечто, априорно (или врождённо) определённое

При создании ИИ без понятия бога не обойтись. Мотивация это некая функция счастья, заданная априорно богом и им же модерируемая.