Сильный искусственный интеллект (AGI, HLAI, SAI...)

[realeugene]

Alephegg в сообщении #1344754 писал(а):

Напомните мне, где я говорил про ТОЛЬКО

Вы это подразумеваете своей диаграммой. Заявленная тема была шире, вроде бы. А диаграмма относится только к адаптивному поведению.

[Alephegg]

realeugene в сообщении #1344776 писал(а):

Вы это подразумеваете своей диаграммой.

Нет. Пожалуйста, не приписывайте мне свои представления о моих "подразумеваниях".
Ничего подобного я НЕ ПОДРАЗУМЕВАЛ.
Если содержательно обсудим паттерн поведения, двинемся дальше...

[Yodine]

Центр нейронаук и когнитивных наук МГУ
https://www.youtube.com/channel/UC9SsR7 ... A/featured

Лекция № 1. "Введение в философию и нейробиологию сознания"
Лекция № 2. "Гиперсетевая теория мозга и сознания"
Лекция № 3 "Сознание и мозг: вариант системного решения проблемы"
Лекция № 4 "Биологические истоки мышления, речи и сознания "
Лекция № 5 "Критические вопросы к существующим нейронаучным теориям сознания"
Лекция № 6 "Современные нейронаучные теории сознания"
Лекция № 7 "Трудная" проблема сознания: основные вопросы и перспективы их научного решения
Лекция № 8 "Локальный интеракционизм"
Лекция № 9 "Иллюзионистские теории сознания"
Лекция № 10 "Основные современные теории и подходы в философии сознания"
Лекция № 11 "Критический анализ предложенных теорий сознания"

Нашел поиском по форуму:

Sonic86 в сообщении #1032353 писал(а):

Вот Вам ответ.
Самосознание состоит из двух знаний:
1) Отождествление своего Я с неким реальным объектом
2) Ощущение своих ощущений из памяти (т.е. вывод мыслей типа "я вижу/слышу такой-то объект, я могу видеть/слышать объекты")
1-е делается как результат наблюдения четкой корреляции между дерганьем своих конечностей в поле зрения и наблюдением своих внутренних желаний ими дергать. + еще, что конечности - такой же обычный объект, как другие наблюдаемые реальные объекты.
2-е понятно: ощущение транслируется в словесное описание, а потом к нему приставляется модальность.
Отсюда ответ: делайте структуру с такими свойствами, получаете самосознающую структуру. Все.

AIAI в сообщении #1032912 писал(а):

Блок-схему алгоритма сознания попробуем накидать? Думаю, сможем.
Кратко, для затравки.
Нужны
1. модель "модельного" внешнего мира - простейшая
2. сенсор - 1шт
3. манипулятор - 1 шт
4. блок потребностей - достаточно 1й потребности
5. блок сознания.

AIAI в сообщении #1041349 писал(а):

Расположение памяти будет влиять на тип AI, возможен и тот и другой тип, а также смешанный. Для начала предлагаю вынести память за пределы алгоритма порождающего ассоциации, чем и является по сути AI. AI это прежде всего алгоритм порожддения ассоциаций.
Принципиальную схему потоков данных можно взять такой.

Цитата:

(Физический мир) <-> (Орган) <-> (Мозг)
(Орган)= (блок оцифровки)<-> (память органа)<-> (блок инфообработки)
(Мозг) = (алгоритм порождения ассоциаций)=(5. блок управления - примитивный универсальный самообучающийся алгоритм управления, который кратко назовем блок сознания.)

ps Процитировал сообщения по причине того, что подумал так будет более удобочитаемо для участников, чем 3 раза по ссылка переходить. Правильно ли сделал, не знаю.

[Alephegg]

Yodine, честно говоря, не очень понятно зачем нужно поднимать тему "сознания". И каким боком сознание имеет отношение к алгоритмам AGI.

[Mihaylo]

Потому что говорить о теориях сознания интереснее, чем по-нормальному подразобраться в теме: изучить аппроксимационные теоремы из нейросетевой темы, делать матричные вычисления, понять, как решаются каггловские задачи и т.д. По-большому счёту никуда не убежишь от алгебро-матстатистического аппарата. А эти темы сложные, их нельзя упростить.

Не будет в теории сознания чего-то простого как первый закон термодинамики, не будет.

Это я вам по-доброму, заблуждающимся, объясняю.

[Alephegg]

Mihaylo в сообщении #1345223 писал(а):

Не будет в теории сознания чего-то простого как первый закон термодинамики, не будет.

Ну, кстати, если в части невозможности упростить математику AGI я с Вами согласен на one hundred percent, то с термодинамикой Вы промахнулись. На мой вкус - второе начало термодинамики как раз может быть вполне себе интегральной характеристикой любых процессов и набора данных для задач. И как параметр целевой функции тоже интересно.

[Mihaylo]

Ну это всë грубые рассуждения на интуитивном уровне, целящиеся стать чем-то интегральным вроде законов термодинамики. Но нет, не суждено...

[Alephegg]

Mihaylo в сообщении #1345227 писал(а):

Ну это всë грубые рассуждения на интуитивном уровне

Не угадали - это результаты экспериментов и макетирования. Я - инженер, я в отличие от вас, гуманитариев, вообще не умею рассуждать на интуитивном уровне, мне проще попробовать в работе... :)

[Mihaylo]

Ну так пробуйте, только осторожно, не ругайтесь. Сначала проба, потом описание результата, не наоборот.

[Alephegg]

Mihaylo в сообщении #1345231 писал(а):

Сначала проба, потом описание результата, не наоборот.

Результаты бывают трех типов: публикации (этим страдают академисты), работающие системы (это для нас, инженеров) и складки на животе (это результат диванных теоретиков). И поверьте, ув. Mihaylo, форумы существуют не для описаний результатов, форумы существуют для обсуждения идей и концепций. upd: Ну люди еще спрашивают как решить ту или иную задачу или почему не работает тот или иной код.

[Yodine]

Alephegg в сообщении #1345163 писал(а):

Yodine, честно говоря, не очень понятно зачем нужно поднимать тему "сознания". И каким боком сознание имеет отношение к алгоритмам AGI.

Несколько неожиданный взгляд для меня. На мой взгляд эти вещи тесно связаны, одно без другого вероятно быть невозможно сделать т.е. сильный ИИ будет обладать сознанием на мой взгляд.

[Alephegg]

Yodine в сообщении #1345241 писал(а):

На мой взгляд эти вещи тесно связаны.

В естественном интеллекте - может быть. Для бионического подхода - пойму. Но в рамках AGI как алгоритмической системы не вижу места сознанию. Зачем оно и чему оно помогает. Мы даже обозначить его не сможем, не говоря о том, чтобы определить и найти какое-то функциональное соответствие.

[Mihaylo]

Следующий этап в развитии искусственного интеллекта (на базе машинного обучения) мне видится в генерализации. Да, это то самое слово, закодированное средней буквой в аббревиатуре AGI.

Нейронные сети должны получать обучающие данные из разных областей знаний, например, аудио и видеоданные. Машина может распознавать речь, глядя на лицо собеседника и в конечном итоге научиться читать по губам. Иначе бы этому было сложно научиться, но засчëт генерализации можно обучаться более сложным задачам и более точно решать те задачи, которые уже решаются.

Тогда скептики нейронных сетей будут уменьшаться в рядах.

-- 14.10.2018, 20:45 --

Однако полного человекоподобия пока не предвидится. Из шести чувств (зрение, слух, осязание, вкус, обоняние, вестибюлярный аппарат) самые важные освоены, но больше проблема с эффекторами (развитая мышечная система, позволяющая автономно и ловко перемещаться, перемещать предметы, разговаривать, жестикулировать). Слабость в автономности энергопитания и количестве эффекторов.

Эффекторы имеют большое значение: они помогают активно расширять сенсомоторный опыт (щупание, проведение экспериментов). Человек может "автономно функционировать без под зарядки несколько часов и имеет функцию автоподзарядки". "Батарейка человека служит до сотни лет, что в пять раз превышает среднее время получения опыта взрослой особи".

Согласитесь, роботы пока не готовы к экспансии. И дело не в нейросетях.

[Yodine]

Проблемы экстраполяции и соответственно проблемы нейросетей.
Много факторов, некоторые существенны, многие несущественны. Много закономерностей, какую закономерность выбрать. Какой моделью экстраполировать. Мерцание закономерностей, в присутствии некоторыых факторов есть закономерность, в присутствии иных факторов нет закономерности. Изменение во времени закономерности. Временной ряд короткий. Выработка гипотез, постановка целей, постановка экспериментов для проверки гипотез. Шумы. Отсутствие учителя. И т.д. и т.п.
Типичная задача: биржа. Нейросети эксплуатируют, вроде что-то они дают, но биржи пока не закрылись и нет хедж-фонда победителя, который все деньги себе забрал. Сама деятельность "выедает" закономерности, закономерности истощаются. Такие задачи как игра го отдыхают.

-- 14.10.2018, 16:10 --

Mihaylo в сообщении #1346238 писал(а):

Нейронные сети должны получать обучающие данные из разных областей знаний, например, аудио и видеоданные. Машина может распознавать речь, глядя на лицо собеседника и в конечном итоге научиться читать по губам. Иначе бы этому было сложно научиться, но засчëт генерализации можно обучаться более сложным задачам и более точно решать те задачи, которые уже решаются.
Тогда скептики нейронных сетей будут уменьшаться в рядах.

Да, вполне могут научиться считывать слова по губам и еще чему-либо. Но это не научит нейросеть мыслить, понимать, генерировать смысл, ставить задачи, решать поставленные задачи, переформулировать их, формулировать цели, демонстрировать понимание, самостоятельно обучаться на короких временных рядах и т.п.

[Alephegg]

Mihaylo в сообщении #1346238 писал(а):

Следующий этап в развитии искусственного интеллекта (на базе машинного обучения) мне видится в генерализации.

Ну Вы тут точно в 10-ку попали, о Великий Учитель! Да - генерализация - один из самых важных ключевых моментов. Тут, правда, снова онтология возникает и слойности. Простейший пример: генерализация в картографии: мелкий масштаб, город отображается точкой, крупнее - административной границей, еще крупнее - город как локальный объект исчезает, возникает целостность города как контейнера и его объекты - дома, улицы и прочее...

Вопрос: как подобную генерализацию будет делать Машобуч? На уровне программы на коленке, там понятно, там классика: type и switch. А вот нейронка как это будет обрабатывать? Можно для начала показать как устроены подобные данные и их разметка.
?