Еще раз про сильный ИИ

[Dicson]

mihaild в сообщении #1571622 писал(а):

Механизм attention как раз пришел на замену рекуррентным сетям - в том смысле, что сейчас именно attention - вариант по умолчанию для обработки последовательностей. Вы этого не знали, или почему-то не согласны?

Может, я отстал от жизни, но про реализацию внимания в других архитектурах не слышал. Вот, например: Dynamic Memory Networks.

mihaild в сообщении #1571589 писал(а):

Если через 10 лет эту задачу решат, то это изменит ваше мнение по поводу "возможности сильного ИИ"?

Я не смогу определить, решена она или нет. Поэтому положусь на мнение специалистов. И если они ко мне лично все по очереди придут, поклонятся и скажут, что решить эту задачу может только сильный ИИ, и она решена, то да, моё мнение, естественно, изменится.

Вы, кстати, тоже не на все важные вопросы ответили.

Doctor Boom в сообщении #1571627 писал(а):

Вы отрицаете способность нейронных сетей к самообучению и самоусложнению? Нет никакого затыка в предположении, что человек может создать систему, которая может иметь свойство породить другую систему штрих, а та в свою очередь систему два штриха и т.д., т.е. развитие будет идти по экспоненте, в том числе качественное.

Каким образом, по-вашему, более простая система сможет оценить более сложную, чтобы создать её целенаправленно, или произвести обоснованный выбор из разных вариантов систем, созданных наугад? Или вы что-то другое имели в виду?

Doctor Boom в сообщении #1571627 писал(а):

Если такое невозможно, то как природа, не имея никакого разума, создала наш?

У природы есть способ. Он известен. Но его так сразу не объяснишь (из-за чего его не все знают), поэтому я ранее предложил оставить опровержение идеи, что слабый ИИ может сам эволюционировать в сильный, на потом.

А в качестве того, над чем предварительно стоит задуматься, вам такой вопрос. Вы наблюдаете общность между вычислительными и биологическими системами? Согласитесь, общего у них не просто немного, а почти ноль, только некие совсем уж схематичные вещи типа элементов архитектуры нейронных сетей и отчасти принципов их обучения. Почему же вы думаете, что биологическая эволюция подходит вычислительным системам?

И намёк на ответ, почему не подходит. Программа может переварить пищу? Нет. Почему же вы думаете, что программа может мыслить как мозг? Чтобы воспроизвести пищеварение, вам программы не хватит, но вы уверены, что программы хватит для воспроизведения мышления? На каком основании вы так кардинально по-разному воспринимаете эти процессы в организме?

Doctor Boom в сообщении #1571627 писал(а):

И да, причем тут она в примере с обезьяной с топором?

Хороший вопрос. Спасибо.

Точно не скажу, но вроде бы по мнению модных домов каменные топоры были в тренде у первобытных людей. Именитые кутюрье при помощи дизайнеров попроще провели расшифровку наскальной живописи и было установлено, что каждый человек в первобытное время должен был иметь каменный топор, а если топора не было, то он обезьяна. В этом смысле я про каменный топор и написал - как признак уже человека, эволюционировавшего из обезьяны. Говорят также, в своё время в модной тусовке жаркие дискуссии на эту тему были. Их отголоски ещё можно услышать, если прислушаться и иметь тонкий слух.

[ozheredov]

Dicson в сообщении #1571612 писал(а):

Если обобщить некоторые обстоятельства, её несложно увидеть. Причём обстоятельства вполне прозаические, без всяких сознаний, языков, оценок сложности, подробностей устройства и вообще чего-либо нового или малопонятного. И противоречий с написанным выше нет, ведь я предлагаю качественные аргументы, а не количественные.

Интегрируйте эти аргументы и обстоятельства в критерий, по которому можно будет ранжировать сложность задачи. Опять-таки, отсутствие элементарной эрудиции играет с Вами злую шутку: мы не просим оценки типа "Интеллект человека равен 2567 ELO, интеллект кошки равен 1800 ELO" -- в анализе данных давно угнездились ранговые и категориальные переменные. Главное, чтоб можно было договориться об интерпретации входа и выхода каждого алгоритма.

Вот мое определение (сильного) ИИ:

strongAI это такой робот, что ежели его подселить на год в одних аппартаментах со студентом 3-го курса Физтеха, средняя оценка которого не ниже 4, а через год сказать: "Ты в курсах, что весь этот год с тобой жил робот?", то студент покрутит пальцем у виска. Конец определения.

Dicson в сообщении #1571612 писал(а):

мы можем понять мир только в той степени, в какой нам это позволит сложность нашего мозга. А значит, сложность нашего мозга равна всему, что только можно знать, то есть, другими словами, равна максимально сложному знанию. Но приближение к максимально сложному знанию бесконечно. Итог - выразить сложность мозга количественно невозможно.

Это все сверх-наивные рассуждения наподобие таких как "Я закрыл ладонями глаза, я тебя не вижу -- след. ты меня тоже" и "Отличить кошку от собаки на картинке алгоритмически невозможно -- на какие признаки ориентироваться, как строить $H_0$?" (хотя некая логика тут конечно прослеживается). Шахматная программа на моем айфоне (если ей выкрутить настройки в max) уделает Магнуса Карлсена и Хикару Накамуру, не вставая с дивана. А когда-то говорили, что это не возможно, И ПРИВОДИЛИ РОВНО ВАШУ АРГУМЕНТАЦИЮ. Ни о чем не говорит?

Dicson в сообщении #1571612 писал(а):

Иными словами, элементы опыта, которые можно формализовать, есть только "гребень волны" невыразимого "океана" мышления.

В мемориз! Тем более, что это правильная мысль. Океан мышления на деле может оказаться прямоугольным бассейном 6х8 метров, а восприятие его как ОКЕАНА обуславливает эволюционно-приобретенное ЧСВ. И именно по этой причине наша психика скрывает от нас этот океан -- чтоб мы раньше времени не осознали, что мы ничтожество.

Dicson в сообщении #1571612 писал(а):

Можно обратить внимание, сознание - квалиа - действительно невыразимо никаким мыслимым языком. На основании общности опыта мы можем только обозначить модальности квалиа и описать их отношения и трансформацию - образы, которые они формируют, или динамику изменений, но не то, что их "наполняет".

По сути квалиа -- это совокупность сигналов на нейронах промежуточных слоев глубокой нейросети. То что пишут про квалия философы -- чушь, которая даже не тянет на сказочку про умных и благородных альф -- в последней есть хотя-б какая-то логика.

Dicson в сообщении #1571612 писал(а):

привыкнете держать себя в руках

Во-первых, альфастость не коррелирует с деньгами на 100%. И когда баба начинает относиться к мужику положительно (с той самой т.зрения), она деньги в его кармане не считает. Во-вторых, держать себя в руках можно с одними, а под дых давать другим (и вторых в любой пирамиде больше, чем первых). В-третьих, давайте закончим оффтоп.

Dicson в сообщении #1571612 писал(а):

Это-то понятно, но вопрос, с чем связано отличие?

С особенностями рельефа целевой функции.

Dicson в сообщении #1571612 писал(а):

Подскажу. У вас итерация - обучение то есть - получилась причиной того, почему мы не создаём нейронные сети точно под задачу. А на самом деле обучение следствие.

Подскажите: верны ли те же самые рассуждения в отношении задачи линейной регрессии? Там решение выписывается аналитически, т.е. в одну итерацию.

Dicson в сообщении #1571612 писал(а):

я доказываю

Хорошо. Давайте возьмем две задачи:
1) научиться играть в шахматы лучше GM;
2) научиться отличать светофоры на изображении.

В отношении возможности эти задачи решить долгие годы высказывался скептицизм. Вопрос: чем данные две задачи принципиально отличаются от создания ИИ, который может, скажем писать сочинения по прочитанному или стихи? Почему Ваши рассуждения к моим двум задачам не применимы?

[mihaild]

Doctor Boom в сообщении #1571627 писал(а):

развитие будет идти по экспоненте, в том числе качественное

А что такое "качественное развитие по экспоненте"?)
(вот это то что мне не нравится у Курцвейла и товрищей - они говорят об экспоненте, не зафиксировав никакую шкалу, и никак не обосновав, почему надо рассмотреть её, а не логарифм или факториал от неё; а то вон численность человечества растет сильно быстрее экспоненты, если измерять её как BB(число людей))

Dicson в сообщении #1571658 писал(а):

Может, я отстал от жизни, но про реализацию внимания в других архитектурах не слышал.

Что вы тут понимаете под "архитектурой"? Если feed-forward / CNN / RNN / ..., то attention это нечто среднее между feed-forward и свёрткой (хотя может совмещаться с чем угодно, и в рекуррентки его наверняка пихают).

Dicson в сообщении #1571658 писал(а):

Вот, например: Dynamic Memory Networks

Статья 2015 года. Основные результаты с attention - примерно начиная с 2017. См. Attention is all you need.

Dicson в сообщении #1571658 писал(а):

Вы, кстати, тоже не на все важные вопросы ответили.

Видимо, пропустил, можете процитировать?

ozheredov в сообщении #1571665 писал(а):

strongAI это такой робот, что ежели его подселить на год в одних аппартаментах со студентом 3-го курса Физтеха, средняя оценка которого не ниже 4, а через год сказать: "Ты в курсах, что весь этот год с тобой жил робот?", то студент покрутит пальцем у виска. Конец определения.

А вот это мне не нравится, потому что тут серьезные требования к механике. Предлагаю заменить жизнь в одной комнате на регулярное общение по видеосвязи.

[ozheredov]

mihaild в сообщении #1571666 писал(а):

тут серьезные требования к механике. Предлагаю заменить жизнь в одной комнате на регулярное общение по видеосвязи.

++++
Принято.

[Energos]

Dicson в сообщении #1571612 писал(а):

Алгоритм - это путь к решению задачи. Поэтому если нет алгоритма, то сами понимаете что. Задачи создания сильного ИИ - это как раз та задача, которая алгоритма решения не имеет - ни "чёткого", ни "нечёткого". Более того, что такое сам сильный ИИ тоже непонятно. И что такое ЕИ непонятно. То есть неизвестно не только решение, но и сама задача.

Если все так "непонятно", тогда в чем вообще вопрос?
Здесь и для человека тоже все непонятно. Тогда чем ИИ хуже? Вы бы лучше дали пример, где человеку понятно, а ИИ - нет. А то как-то несодержательно.

Dicson в сообщении #1571612 писал(а):

Преодолейте скорость света. Методом проб и ошибок. Хотя, скорее, это у вас метод ошибок и проб будет.

Ну а эта демагогия тут причем? Никакой ИИ не способен нарушать законы физики. Как, впрочем, и сами люди.

Dicson в сообщении #1571612 писал(а):

Повнимательнее читайте. О чём изначально речь шла? Интеллект человека выполняет глобальную стратегию, увязывая в тактике множество обстоятельств. Это и такси, и вопрос "что съесть на завтрак". Никакой нынешний ИИ воспроизвести сложность этой работы не способен даже близко.

Опять же, что именно он "не способен"? Выбрать один из рецептов для завтрака? Где вы увидели там сложность?

Dicson в сообщении #1571612 писал(а):

Да, нашёл. Я уже о ней писал. Специалисты никогда не признают ИИ сильным. Эта задача - признание в среде специалистов сильным - ИИ не под силу. Все тесты придумывают, проводят и оценивают специалисты, им ли не знать, сильный ИИ или слабый. Например, если вы считаете, что ИИ может обмануть специалистов, то он и любой тест на "сильность" обманет. Если вы специалистам не доверяете, то вам и любому тесту не поверить ничего не помешает. Специалисты скажут, что не прошёл, вы скажете, что прошёл. Поэтому если вы этот критерий отвергаете, то сами становитесь на точку зрения, опровергнуть которую невозможно.

Так что, подходит критерий?

ИИ просто подкупит специалистов (переведет битки на их счет) и тогда они признают его сильным. Следовательно, задача будет решена?
Какой-то слишком размытый "критерий", не имеющий ничего общего ни с математикой, ни с информатикой.
За эти горы текста я так и не понял, что вы пытаетесь доказать.
Судя по всему, это нечто совсем несущественное.

[Dicson]

ozheredov в сообщении #1571665 писал(а):

Интегрируйте эти аргументы и обстоятельства в критерий, по которому можно будет ранжировать сложность задачи. Опять-таки, отсутствие элементарной эрудиции играет с Вами злую шутку: мы не просим оценки типа "Интеллект человека равен 2567 ELO, интеллект кошки равен 1800 ELO" -- в анализе данных давно угнездились ранговые и категориальные переменные. Главное, чтоб можно было договориться об интерпретации входа и выхода каждого алгоритма.

Вот мое определение (сильного) ИИ:

strongAI это такой робот, что ежели его подселить на год в одних аппартаментах со студентом 3-го курса Физтеха, средняя оценка которого не ниже 4, а через год сказать: "Ты в курсах, что весь этот год с тобой жил робот?", то студент покрутит пальцем у виска. Конец определения.

Вы пытаетесь найти дрова посуше и построить паровоз побольше в надежде достичь скорости света. А я вам объясняю, что у меня есть теория, согласно которой это невозможно. В этой теории показано, что энергия, которая потребуется для разгона вашего паровоза, будет стремиться к бесконечности, по мере его приближения к скорости света. Поэтому у вас ничего не выйдет в принципе.

Что такое теория, в чём их сила, вы знаете? Отдельные данные наблюдений и экспериментов в теории теряют прежнюю автономность и становятся элементами целостной модели, объясняющей явление в целом. Поэтому без теории любое наблюдение лишь частный случай, любое затруднение - не принципиальное, а показать "на практике", что сколько ни строй котлы, скорость света превысить не удастся, невозможно.

Понимаете? Все возможные дрова и паровозы уже находятся внутри теории, поэтому фантазировать в этом направлении - это просто терять время. Точно так же все тесты и все мыслимые алгоритмы уже находятся внутри моих аргументов. Но так как аргументы вы пока видеть не хотите, то объяснить вам бессмысленность ваших идей я, естественно, не могу. Разве что косвенно, но это не помогает. Тем не менее я и здесь предложил вам выход.

Вы всё равно сейчас не сможете строго доказать, что какой-либо ваш тест действительно позволяет определить сильный ИИ, даже если вам лично это очевидно. Просто потому, что нет строгого количественного определения ни ЕИ, ни сильного ИИ. Не на что ориентироваться. А когда вы этот тест провести всё-таки сможете, то если он действительно работает, понятно это будет не только вам, но и специалистам. Вот, чтобы не было субъективности, я и предлагаю ориентироваться на мнение специалистов. Что же вас не устраивает? С каких пор мнение специалистов перестало иметь первоочередную значимость?

Может быть, вы не хотите ждать? Хорошо. Тогда дайте количественное определение ИИ и точно так же докажите, что ваш тест - это тест на сильный ИИ, и что ИИ его выполнит. А потом опять же пусть все ваши выкладки проверят специалисты. И всё. Я признаю, что сильный ИИ возможен и пойду искать, где ошибался. Как вам эта идея?

ozheredov в сообщении #1571665 писал(а):

Это все сверх-наивные рассуждения наподобие таких как "Я закрыл ладонями глаза, я тебя не вижу -- след. ты меня тоже" и "Отличить кошку от собаки на картинке алгоритмически невозможно -- на какие признаки ориентироваться, как строить $H_0$?" (хотя некая логика тут конечно прослеживается). Шахматная программа на моем айфоне (если ей выкрутить настройки в max) уделает Магнуса Карлсена и Хикару Накамуру, не вставая с дивана. А когда-то говорили, что это не возможно, И ПРИВОДИЛИ РОВНО ВАШУ АРГУМЕНТАЦИЮ. Ни о чем не говорит?

Ну, если они сверхнаивные, то и опровергнуть их будет несложно. Только сделайте это без логических ошибок типа предвосхищения основания и ошибки выборки, каковые вы сейчас умудрились продемонстрировать.

ozheredov в сообщении #1571665 писал(а):

В мемориз! Тем более, что это правильная мысль. Океан мышления на деле может оказаться прямоугольным бассейном 6х8 метров, а восприятие его как ОКЕАНА обуславливает эволюционно-приобретенное ЧСВ. И именно по этой причине наша психика скрывает от нас этот океан -- чтоб мы раньше времени не осознали, что мы ничтожество.

По всей видимости, психика - это и есть само мышление, сам мозг в целом, не отдельно же от мозга она где-то существует.

ozheredov в сообщении #1571665 писал(а):

По сути квалиа -- это совокупность сигналов на нейронах промежуточных слоев глубокой нейросети. То что пишут про квалия философы -- чушь, которая даже не тянет на сказочку про умных и благородных альф -- в последней есть хотя-б какая-то логика.

У вас логики не больше. Красный цвет - совокупность, синий совокупность, эмоции тоже. Чем эти совокупности так отличаются, что одни синие, а другие грустные? Почему сознание континуум, почему упорядоченный, почему есть эмоции и образы? Но если обратиться к физике работы мозга, то появляется гораздо больше ясности с сознанием, чем "совокупности".

ozheredov в сообщении #1571665 писал(а):

Подскажите: верны ли те же самые рассуждения в отношении задачи линейной регрессии? Там решение выписывается аналитически, т.е. в одну итерацию.

Никаких итераций, взяли и написали сразу готовый. Почему нет? Рельеф сам по себе тоже ни при чём. Подскажу. Я задал этот вопрос, когда мы обсуждали сложность алгоритмов.

ozheredov в сообщении #1571665 писал(а):

Хорошо. Давайте возьмем две задачи:
1) научиться играть в шахматы лучше GM;
2) научиться отличать светофоры на изображении.

В отношении возможности эти задачи решить долгие годы высказывался скептицизм. Вопрос: чем данные две задачи принципиально отличаются от создания ИИ, который может, скажем писать сочинения по прочитанному или стихи? Почему Ваши рассуждения к моим двум задачам не применимы?

Применимы. Вполне возможно, что ИИ всё-таки сможет писать сочинения. Только само по себе это ещё не означает, что ИИ сильный.

Сильный ИИ сможет решать все задачи человека не хуже человека. Но даже мозг человека среднего интеллекта, в зависимости от обучения, может быть более или менее и физиком, и лириком. Вы же пока только какие-то отдельные умения для него предлагаете. Вот и будет у вас, что одна система одно умеет, другая другое. А где же сильный ИИ?

Или вы сможете сформулировать такой тест, который будет проверять сразу все задачи? Сколько времени отнимет проверка? Если в целом, то сложность поведения сильного ИИ должна быть равна сложности всех задач человека (в том смысле, что сильный ИИ не обязан подражать человеку, но он должен быть не менее сложным). Сможете сформулировать тест, равный сложности сразу всех задач человека?

mihaild в сообщении #1571666 писал(а):

Видимо, пропустил, можете процитировать?

Вот, вместе с контекстом:

Dicson в сообщении #1571612 писал(а):

Да, нашёл. Я уже о ней писал. Специалисты никогда не признают ИИ сильным. Эта задача - признание в среде специалистов сильным - ИИ не под силу. Все тесты придумывают, проводят и оценивают специалисты, им ли не знать, сильный ИИ или слабый. Например, если вы считаете, что ИИ может обмануть специалистов, то он и любой тест на "сильность" обманет. Если вы специалистам не доверяете, то вам и любому тесту не поверить ничего не помешает. Специалисты скажут, что не прошёл, вы скажете, что прошёл. Поэтому если вы этот критерий отвергаете, то сами становитесь на точку зрения, опровергнуть которую невозможно.

Так что, подходит критерий? Аргументы в студию?

Energos в сообщении #1571672 писал(а):

Если все так "непонятно", тогда в чем вообще вопрос?
Здесь и для человека тоже все непонятно. Тогда чем ИИ хуже? Вы бы лучше дали пример, где человеку понятно, а ИИ - нет. А то как-то несодержательно.

Вот именно, ничего непонятно. Наш интеллект у нас уже есть, и то, что мы плохо знаем, что он такое, не мешает им думать. А вот создать искусственный интеллект это мешает, потому что нет понятного образца. Вот люди и ищут ИИ методом проб и ошибок. Дело идёт, но медленнее, чем многим хотелось бы. Что касается примеров, чего может человек, но пока не может ИИ, то таковые здесь есть. Сочинение по книге написать, диалог содержательный вести, наукой заниматься, тонкая моторика пальцев. Ну и в принципе более чем много всего, что умеет человек.

Energos в сообщении #1571672 писал(а):

Ну а эта демагогия тут причем? Никакой ИИ не способен нарушать законы физики. Как, впрочем, и сами люди.

Это ответ на ваши идеи. Потому что если сильный ИИ невозможен, то он невозможен. И для нас это ограничение будет более строгое, чем ТО ограничивает скорость кирпичей. Потому что, мало ли, подпространство отыщется или кротовые норы какие-нибудь, и кирпичи смогут благодаря этому скоростью света пренебрегать. А вот создать ИИ равного себе нельзя никак вообще ни за какое время.

Energos в сообщении #1571672 писал(а):

Опять же, что именно он "не способен"? Выбрать один из рецептов для завтрака? Где вы увидели там сложность?

Вы прочитали, как завтрак увязывается с будущим на десятилетия вперёд? Умеет ИИ такие стратегии строить? Решать сложные задачи, требующие многолетних целенаправленных усилий? Причём в сложной меняющейся среде, которой является природа и социум? А человек их решает постоянно, сложнейшим образом увязывая обстоятельства внутреннего и внешнего мира в тактике действий по достижению стратегических целей.

Energos в сообщении #1571672 писал(а):

ИИ просто подкупит специалистов (переведет битки на их счет) и тогда они признают его сильным. Следовательно, задача будет решена?

Так он и всех подкупит. И где тогда правду искать? Кому доверять, если ИИ мог любого подкупить? В общем такие аргументы не имеют смысла, так как их нельзя ни подтвердить, ни опровергнуть.

Energos в сообщении #1571672 писал(а):

Какой-то слишком размытый "критерий", не имеющий ничего общего ни с математикой, ни с информатикой.

Специалисты на основании чего свои решения выносят? Разве не на основании математики с информатикой? Вот я и предлагаю доверять их решениям, так как проверить мы их всё равно не можем, да и не нужно. Вы же за физиками эксперименты у себя дома по новой не ставите, верно? Но если даже у специалистов "математики с информатикой" для проверки ИИ не хватит, то волей-неволей и вам, и всем придётся признать, что "математики с информатикой" действительно недостаточно.

Energos в сообщении #1571672 писал(а):

За эти горы текста я так и не понял, что вы пытаетесь доказать.
Судя по всему, это нечто совсем несущественное.

Что доказывается, написано в первых постах, и в теме часто упоминалось. Поэтому если всё равно не поняли, то, может, и не надо?

[mihaild]

Dicson в сообщении #1571692 писал(а):

Так что, подходит критерий? Аргументы в студию?

А, т.е. вопрос в том, подходит ли критерий "специалисты согласятся, что сделан сильный ИИ"? Ну, если вы можете это обосновать - то попробуйте:) Только учтите, что любое обоснование должно существенно использовать свойства не только самого ИИ, но и специалистов.

[ozheredov]

Dicson в сообщении #1571692 писал(а):

Что такое теория, в чём их сила, вы знаете?

Угу. Теория оперирует понятиями, относительно значения которых можно договориться. Если теория допускает бесконечное переобувание в виде "Я прав, потому что под термином "цурипопик" я понимаю совершенно не то, что вам показалось" -- это не теория, а фуфло.

Dicson в сообщении #1571692 писал(а):

Вы всё равно сейчас не сможете строго доказать

А Вы, конечно, можете.

Dicson в сообщении #1571692 писал(а):

А потом опять же пусть все ваши выкладки проверят специалисты.

И Ваши тоже пусть проверят. Сказать, в какой области медицины они должны быть специалистами?

Dicson в сообщении #1571692 писал(а):

логических ошибок типа предвосхищения основания и ошибки выборки

No comments.

Dicson в сообщении #1571692 писал(а):

Чем эти совокупности так отличаются, что одни синие, а другие грустные?

Скажите: а электрончики в сигнале с видеокарты компа, зажигающие синие субпиксели на мониторе -- эти электрончики тоже синие или нет. Сказали? А теперь go читать учебники по:
1. Цитологии.
2. Физиологии.
3. Глубокому обучению.

Dicson в сообщении #1571692 писал(а):

Рельеф сам по себе тоже ни при чём.

Если рельеф не при чем, то почему решение для линейной аппроксимации получается сразу, а для нейросетевой -- постепенно? В чем принципиальная разница (по-вашему)?

Dicson в сообщении #1571692 писал(а):

Сможете сформулировать тест, равный сложности сразу всех задач человека?

Вот например сделали подъемный кран. Потестили на ограниченном пножестве специальных грузов. Тут прибегает Dicson и говорит: раз кран должен уметь поднимать все в пределах скажем 1 тонны, то для его тестирования потребуется перепробовать все существующие во Вселенной объекты весом до 1 тонны. Иначе может оказаться, что например квадратное весом в 500кг он поднимет, а круглое -- уже нет.

[Doctor Boom]

Dicson в сообщении #1571658 писал(а):

Каким образом, по-вашему, более простая система сможет оценить более сложную, чтобы создать её целенаправленно, или произвести обоснованный выбор из разных вариантов систем, созданных наугад? Или вы что-то другое имели в виду?

Не оценить, а эволюционировать в нее

Dicson в сообщении #1571658 писал(а):

У природы есть способ. Он известен. Но его так сразу не объяснишь (из-за чего его не все знают), поэтому я ранее предложил оставить опровержение идеи, что слабый ИИ может сам эволюционировать в сильный, на потом.

А вы попробуйте. И заодно объясните, почему он не подходит ИИ. И да, сделайте поправку на разницу интеллекта человека и природы

Dicson в сообщении #1571658 писал(а):

А в качестве того, над чем предварительно стоит задуматься, вам такой вопрос. Вы наблюдаете общность между вычислительными и биологическими системами? Согласитесь, общего у них не просто немного, а почти ноль, только некие совсем уж схематичные вещи типа элементов архитектуры нейронных сетей и отчасти принципов их обучения. Почему же вы думаете, что биологическая эволюция подходит вычислительным системам?

Если взять нейроны, то да. А к самоусложнению и эволюции нейронные сети уже способны

Dicson в сообщении #1571658 писал(а):

И намёк на ответ, почему не подходит. Программа может переварить пищу? Нет. Почему же вы думаете, что программа может мыслить как мозг? Чтобы воспроизвести пищеварение, вам программы не хватит, но вы уверены, что программы хватит для воспроизведения мышления? На каком основании вы так кардинально по-разному воспринимаете эти процессы в организме

Почему не может? Виртуальную сможет, ну или управлять искусственным желудком. А программа может мыслить как мозг т.к. может моделировать работу нейронов по факту

Dicson в сообщении #1571658 писал(а):

Точно не скажу, но вроде бы по мнению модных домов каменные топоры были в тренде у первобытных людей. Именитые кутюрье при помощи дизайнеров попроще провели расшифровку наскальной живописи и было установлено, что каждый человек в первобытное время должен был иметь каменный топор, а если топора не было, то он обезьяна. В этом смысле я про каменный топор и написал - как признак уже человека, эволюционировавшего из обезьяны. Говорят также, в своё время в модной тусовке жаркие дискуссии на эту тему были. Их отголоски ещё можно услышать, если прислушаться и иметь тонкий слух.

Смахивает на бред. В любом случае изготовление орудий труда не такой важный признак, как морфология (обезьян тоже научить изготавливать орудия, да и они сами нетривиально используют подручные средства)

-- 28.11.2022, 05:03 --

mihaild в сообщении #1571666 писал(а):

А что такое "качественное развитие по экспоненте"?)
(вот это то что мне не нравится у Курцвейла и товрищей - они говорят об экспоненте, не зафиксировав никакую шкалу, и никак не обосновав, почему надо рассмотреть её, а не логарифм или факториал от неё; а то вон численность человечества растет сильно быстрее экспоненты, если измерять её как BB(число людей))

Ну это когда у нас есть несколько последовательных качественных этапов, экспонента самое простое описание

-- 28.11.2022, 05:13 --

ozheredov в сообщении #1571665 писал(а):

По сути квалиа -- это совокупность сигналов на нейронах промежуточных слоев глубокой нейросети

Неа, квалиа это именно субъективные ощущения изнутри. Они скорее всего так физически и реализуются, вот только нужно провести мостик между сигналами промежутных слоев и субъективными ощущениями. Пока проблема слаборешаема (если вообще решаема)

ozheredov в сообщении #1571665 писал(а):

То что пишут про квалия философы -- чушь, которая даже не тянет на сказочку про умных и благородных альф -- в последней есть хотя-б какая-то логика.

Так вы даже проблемы не понимаете

[ozheredov]

Doctor Boom в сообщении #1571700 писал(а):

квалиа это именно субъективные ощущения изнутри

Я не понимаю, чем ощущения отличаются от сигналов. Рассмотрим простую модель: есть ягоды, поверхность которых отражает длины волн.. хз в общем какие, синие )) Так сложилось, что если эти ягоды кушать -- будешь здоровым, сильным и победишь в естественном отборе. Поэтому у меня в мозге (я ж венец творенья, не забыли?) сидит некий скрипт, заставляющий меня, скажем так, обращать внимание на синий цвет, потому что в моем мире обычно все, что синее -- это вот эти ягоды. Поэтому при виде объекта синего цвета я испытываю некий экстаз, и данное обстоятельства заставляет меня искать все новую дозу -- новые синие объекты, то бишь эти долбанные ягоды.

Doctor Boom в сообщении #1571700 писал(а):

мостик между сигналами промежутных слоев и субъективными ощущениями

Квалиа -- это совокупность сигналов с (возможно, разнородных) рецепторов, преобразованных в сигналы для управляющей системы, то бишь эмоции (эти самые субъективные ощущения).

Doctor Boom в сообщении #1571700 писал(а):

Так вы даже проблемы не понимаете

Проблема в том, что философы помещают диагностическое измерение давления в шинах автомобиля его же бортовым компьютером в одну вселенную, а эмоции человека -- в другую: ну как можно Чилавека, венец творенья, написавший столько Великих Литературных Произведений и т.д. и т.п., посметь поставить в один ряд с железякой, вызывающей у гуманитариев приступ неудержимого омерзения? И потом сами же доказывают невозможность наведения мостика.

[ozheredov]

Doctor Boom

Я сейчас читаю одну очень старую тему на dxdy, так там есть высказывание (сори за оверквотинг, но тут каждое слово в тему):

A_Nikolaev в сообщении #963838 писал(а):

Представим, что нам уже удалось сделать человекоподобного робота на транзисторах. Он ведет себя как человек. Например, услышав анекдот, он может рассмеяться. Он и сам может рассказать анекдот. Он скрючится, если ударить его в живот. Он учится. И т.д. Поведение вполне человеческое.

Мы можем проследить все импульсы в его электронных мозгах. Но чувствует ли что-нибудь этот сложнейший самообучающийся электронный механизм? Или это просто цепь бесчувственных причин и следствий: в животе от удара сработали датчики, сигнал от датчиков был обработан процессором, процессор включил электромоторчики, которые скрючили тело робота.

Если он чувствует, то означает ли это, что электрическая лампочка у меня дома тоже что-то чувствует на каком-то примитивном уровне, когда я ее включаю? Ведь качественно провода в роботе не отличаются от проводов в моей квартире.

Я хочу сказать, что поведение, даже очень и очень сложное, не есть доказательство наличия чувств, восприятия.

Видите? Робот скрючивается, потому что СРАБОТАЛИ ДАТЧИКИ, а человек -- потому что ЧУВСТВУЕТ. Чувствует подобно великим поэтам и писателям, видимо. И несмотря на то, что ни биология, ни химия не нашли отличий одного от другого, чел упорно считает, что разница есть. Ибо в противном случае придется признать: наука доказала, что человек=лампочка. На основе выводов, против которых невозможно устоять, таракан ломая руки приготовился страдать (возможно, быть разобранным на скрепки), если к примеру вместо лампочек накаливания появились в разы более экономичные светодиоды.

[Dicson]

mihaild в сообщении #1571693 писал(а):

А, т.е. вопрос в том, подходит ли критерий "специалисты согласятся, что сделан сильный ИИ"? Ну, если вы можете это обосновать - то попробуйте:) Только учтите, что любое обоснование должно существенно использовать свойства не только самого ИИ, но и специалистов.

Конечно, всё надо учесть. Только не всё возможно. Поэтому к абсолютной точности мы стремимся, но достаточно и максимальной. Максимальная точность наиболее вероятна в оценке специалистов. Всё, обосновал. Выносить аргументы?

ozheredov в сообщении #1571695 писал(а):

Угу. Теория оперирует понятиями, относительно значения которых можно договориться. Если теория допускает бесконечное переобувание в виде "Я прав, потому что под термином "цурипопик" я понимаю совершенно не то, что вам показалось" -- это не теория, а фуфло.

Это вы о какой теории? В моей только общепринятые знания. Вчерашняя цитата: "Если обобщить некоторые обстоятельства, её несложно увидеть. Причём обстоятельства вполне прозаические, без всяких сознаний, языков, оценок сложности, подробностей устройства и вообще чего-либо нового или малопонятного."

ozheredov в сообщении #1571695 писал(а):

Скажите: а электрончики в сигнале с видеокарты компа, зажигающие синие субпиксели на мониторе -- эти электрончики тоже синие или нет. Сказали? А теперь go читать учебники по:

Это вы о чём? Давайте-ка ещё раз, а то я глазам своим не верю. Синий цвет, где в ваших совокупностях? Грусть где? Ну или вообще, как это всё возникает в голове?

UPD: Это я написал до того, как ваш последний пост увидел. Сейчас понимаю, что эти вопросы бессмысленно задавать. Можете не отвечать.

ozheredov в сообщении #1571706 писал(а):

Мы можем проследить все импульсы в его электронных мозгах.

"Проследить" можем только более или менее поверхностно. Для сознания, чем бы оно ни было, место остаётся.

ozheredov в сообщении #1571695 писал(а):

Если рельеф не при чем, то почему решение для линейной аппроксимации получается сразу, а для нейросетевой -- постепенно? В чем принципиальная разница (по-вашему)?

Сети нелинейные. Так всё-таки почему мы не пишем сети сразу?

ozheredov в сообщении #1571695 писал(а):

Вот например сделали подъемный кран. Потестили на ограниченном пножестве специальных грузов. Тут прибегает Dicson и говорит: раз кран должен уметь поднимать все в пределах скажем 1 тонны, то для его тестирования потребуется перепробовать все существующие во Вселенной объекты весом до 1 тонны. Иначе может оказаться, что например квадратное весом в 500кг он поднимет, а круглое -- уже нет.

Просто Dicson больше знает. Оказалось, крепёж под какие-то грузы подходит, а под какие-то нет. Если не подходит, нужно специальный заказывать. Заранее неизвестно, какой крепёж к какому грузу подойдёт, поэтому приходится все грузы во вселенной перепробовать. Ведь кран должен поднимать всё.

Doctor Boom в сообщении #1571700 писал(а):

Не оценить, а эволюционировать в нее

Это как? Вот в природе возникает новый организм, он или выживает, если приспособлен к условиям, или не выживает, если не приспособлен. А у вас как отбор идёт?

Doctor Boom в сообщении #1571700 писал(а):

Почему не может? Виртуальную сможет, ну или управлять искусственным желудком. А программа может мыслить как мозг т.к. может моделировать работу нейронов по факту

Программно промоделируйте печень и поставьте эту программу в организм. Что будет? Будет плохо. Программа сама по себе кровь не очистит. То есть печень в виде программы не работает. Почему? Что отличает программу печени от реальной печени?

[ozheredov]

Dicson в сообщении #1571708 писал(а):

Синий цвет, где в ваших совокупностях? Грусть где?

Я вывел на монитор изображение равномерно синего фона. Сигнал на монитор идет по hdmi-кабелю с выхода видеокарты. В каком месте там синий цвет?

Dicson в сообщении #1571708 писал(а):

Сети нелинейные. Так всё-таки почему мы не пишем сети сразу?

Вот эта нелинейность как раз и обуславливает такой рельеф целевой функции, для которого невозможно сразу угадать, где у нее минимум. У Вас другой вариант ответа? Обязательно напишите, все вместе посмеемся.

[Geen]

Dicson в сообщении #1571708 писал(а):

Всё, обосновал. Выносить аргументы?

Это у Вас сначала обоснование, а потом аргументы? А обосновываемый тезис в самом конце будет, полагаю?

Но в общем, я нахожу, что нейросеть под ником Dicson терст Тьюринга не проходит - слишком скучно и предсказуемо.

[mihaild]

Doctor Boom в сообщении #1571700 писал(а):

Ну это когда у нас есть несколько последовательных качественных этапов, экспонента самое простое описание

А почему экспонента, а не линейная функция, не корень, не логарифм и не busy beaver?

(квалиа)

Раз уж зашла речь про квалиа, поделюсь пародийным сценарием фильма про философский зомби-апокалипсис: Zombies: The Movie (за авторством Юдковского).

Цитата:

GENERAL FRED: Are you sure?
SCIENTIST: As sure as we can be in the total absence of evidence.

Dicson в сообщении #1571708 писал(а):

Конечно, всё надо учесть. Только не всё возможно.

Но только то, что учесть сложно, нельзя заметать под ковер "а там так, как нужно". Поэтому я очень сильно ожидаю, что ничего нетривиального про мнение Джеффа Дина у вас обосновать не выйдет (потому что начальные параметры Джеффа Дина - гораздо более сложная штука, чем даже принципы работы интеллекта). Но можете попробовать.

Dicson в сообщении #1571708 писал(а):

Заранее неизвестно, какой крепёж к какому грузу подойдёт, поэтому приходится все грузы во вселенной перепробовать. Ведь кран должен поднимать всё.

А еще нужно проверить, описывается ли движения корабля СТО, и корабль покрасить в красный цвет, в желтый, в серо-буро-малиновый, и т.д.

Dicson в сообщении #1571708 писал(а):

Что отличает программу печени от реальной печени?

Очевидно если модель печени не моделирует очистку крови, то это плохая модель. Надо перестать её использовать и взять хорошую (если нас интересует очистка крови).