Еще раз про сильный ИИ

[Mihaylo]

DARIUS в сообщении #1572147 писал(а):

было поломано много копий

Мое мнение такое: в этой теме нет ничего интересного про сильный интеллект, однако ломаются копья только в путь. Причина: зафилософствованность, нежелание учиться. Философия же не имеет ничего общего с наукой, в данном случае, с машинным обучением.

[talash]

mihaild в сообщении #1572266 писал(а):

Dicson в сообщении #1572228 писал(а):

К которым не применим, эволюционируют только в голове человека и не могут выйти за эти границы.

Вам осталось всего лишь показать, что
1) понятие эволюции применимо к произвольному созданию оптимизаторов
2) утверждение "эволюция ИИ происходит в голове человека":
2.1) имеет какой-то смысл
2.2) верно
2.3) всегда будет верно
3) эволюция "в голове" более слабого оптимизатора не может привести к созданию более сильного

Михаил, а Вы считаете, что сейчас в мире происходит какой-то прогресс в сторону создания сильного ИИ?

[talash]

Mihaylo в сообщении #1572333 писал(а):

Человеческий интеллект слабый. Человеку можно сказать: "А тебе слабо сделать также?". И тот не сможет. И не смогут почти многие из человечества.

Человеческий интеллект сильный по определению по крайней мере в рамках данной темы. Странно читать подобную бредятину на научном форуме.

[Mihaylo]

talash в сообщении #1572406 писал(а):

Человеческий интеллект сильный по определению по крайней мере в рамках данной темы.

По какому определению? По философской гипотезе о существовании сильного и и слабого интеллектов?
Философия - это не наука, и на научном форуме естественно для философов прозвучал "бред", а именно: происходит отвержение ваших гипотез. Вот так. Такова жизнь. Вы немного перепутали науку и философню.

-- 03.12.2022, 15:54 --

talash в сообщении #1572405 писал(а):

Михаил, а Вы считаете, что сейчас в мире происходит какой-то прогресс в сторону создания сильного ИИ?

mihaild уже давно дал ясно понять, что его не интересует сила интеллекта. Он анализирует возможности существующего ИИ и дает оценку, годен он или нет. Больше ничего не требуется. Спасибо за внимание.

-- 03.12.2022, 15:54 --

talash в сообщении #1572405 писал(а):

Михаил, а Вы считаете, что сейчас в мире происходит какой-то прогресс в сторону создания сильного ИИ?

mihaild уже давно дал ясно понять, что его не интересует сила интеллекта. Он анализирует возможности существующего ИИ и дает оценку, годен он или нет. Больше ничего не требуется. Спасибо за внимание.

[mihaild]

Dicson в сообщении #1572395 писал(а):

По-моему, я достаточно показал

Достаточно в том смысле, что что-то еще в таком же стиле показывать не надо:) Недостаточно в том смысле, что это были только размахивания руками, в котором даже введения терминов прходится выискивать.

Mihaylo в сообщении #1572400 писал(а):

Причина: зафилософствованность, нежелание учиться. Философия же не имеет ничего общего с наукой, в данном случае, с машинным обучением

Можете продемонстрировать, где философия помогла различить, что возможно, а что нет?

talash в сообщении #1572405 писал(а):

Михаил, а Вы считаете, что сейчас в мире происходит какой-то прогресс в сторону создания сильного ИИ?

Да, происходит.
Точнее так: сейчас еще рано работать непосредственно над сильным ИИ, так же как Уотсону и Крику в 1960 было бы рано работать над полной расшифровкой генома.

Mihaylo в сообщении #1572429 писал(а):

По какому определению?

По определению, используемому большей частью участников этой темы. С определениями не спорят.

[Geen]

talash в сообщении #1572406 писал(а):

Человеческий интеллект сильный по определению по крайней мере в рамках данной темы.

Интеллект... в этой теме... да тем более сильный...

[Mihaylo]

Полет птицы - сильный, полет самолета и вертолета - слабый. По определению.

[Dicson]

mihaild в сообщении #1572431 писал(а):

Достаточно в том смысле, что что-то еще в таком же стиле показывать не надо:) Недостаточно в том смысле, что это были только размахивания руками, в котором даже введения терминов прходится выискивать.

Хорошо, давайте попробуем ещё раз.

В искусственных системах не уменьшается энтропия, а только растёт, и там нет гомеостаза. Во-первых, это означает, что искусственные системы сразу после создания начинают разрушаться. На это вы можете возразить, что роботы будут сами себя ремонтировать. Поэтому во-вторых. Если нет гомеостаза, то изначально всё критерии разумного вам придётся задавать самому - прямо или через обучение. Однако в дальнейшей эволюции ИИ (исходя из того, что она предполагается самостоятельной) накопление новых знаний постепенно нивелирует все эти критерии, разбалансирует их, и произойдёт то, что я уже написал раньше: такая эволюция "скособочится в неадекват и заглохнет сама собой". Сделать с этим ничего нельзя, заранее всего не предусмотришь (далеко в будущее не заглянешь, если бы это было возможно, то и эволюционировать от ИИ не потребовалось, сразу бы сделали такой, какой надо будет в будущем). Поэтому остаётся только одно - самим контролировать и направлять развитие ИИ, о чём я и говорил. Но о границах этого способа уже приведены другие аргументы.

Geen в сообщении #1572434 писал(а):

Интеллект... в этой теме... да тем более сильный...

А вы?

Если вопрос непонятен, то обратите внимание, как некоторые товарищи выше утверждают ничтожность философских аргументов, используя при этом философские аргументы, и тем самым не отходя от кассы опровергают сами себя. Теперь понятно, в чём у вас проблема? А что касается товарищей, то, полагаю, такие логические кульбиты для них не впервой. Ведь наука - это эксперимент, а философия - суть развёрнутые логические суждения на естественном языке. Поэтому, когда у человека проблемы с логикой, то и философия кажется ему чем-то бессмысленным, и без кульбитов никакую сколько-нибудь сложную мысль сформулировать не выходит.

[mihaild]

Mihaylo в сообщении #1572435 писал(а):

Полет птицы - сильный, полет самолета и вертолета - слабый. По определению.

Ну, можно и такое определение дать. Правда не очень понятно, в чем от него польза для народного хозяйства. От стандартного определения сильного/слабого ИИ небольшая польза для народного хозяйства есть.

Dicson в сообщении #1572456 писал(а):

Во-первых, это означает, что искусственные системы сразу после создания начинают разрушаться.

В некотором смысле вся Вселенная уже 14 миллиардов лет разрушается. Да и человечество вряд ли проживет хотя бы $10^{1000}$ лет, его способность себя поддерживать не бесконечна. Так что нужно доказывать не то, что у искусственных систем способность к самоподдерживанию не бесконечна (в этом никто не сомневается), а в том, что она сильно меньшей, чем у человечества.

Dicson в сообщении #1572456 писал(а):

Если вопрос непонятен, то обратите внимание, как некоторые товарищи выше утверждают ничтожность философских аргументов, используя при этом философские аргументы, и тем самым не отходя от кассы опровергают сами себя.

А вот если заниматься не философией, а логикой, то становится понятно, что это совершенно нормальная схема рассуждения: если аргумент доказывает собственную ничтожность, то он ничтожен. Такая схема рассуждений называется reductio ad absurdum.

[Mihaylo]

mihaild в сообщении #1572460 писал(а):

Правда не очень понятно, в чем от него польза для народного хозяйства. От стандартного определения сильного/слабого ИИ небольшая польза для народного хозяйства есть.

А что, авиатранспорт - это не народное хозяйство? Я бы порассуждал на тему, почему же полет самолета какой-то слабый... Только вот ИИ мозги философам почему-то сильнее выворачивает.

[Dicson]

mihaild в сообщении #1572460 писал(а):

Так что нужно доказывать не то, что у искусственных систем способность к самоподдерживанию не бесконечна (в этом никто не сомневается), а в том, что она сильно меньшей, чем у человечества.

Не нужно это доказывать, так как это слабый аргумент против сильного ИИ. Вы всегда можете сказать, что вдруг атомная война и останутся только машины. И вообще ИИ может в космосе летать, ему по-барабану, это ж кусок железа. Холост, детей нет. Солнце погаснет, к другому полетит. Да и я уже сам привёл аргументы на этот счёт в посте выше. Так что вопрос уже снят с повестки. А вот то, что эволюция искусственных систем не может быть сколько-нибудь значительной без человека, аргумент посильнее. Но выше он уже обоснован. Да и попросту это очевидно. Любое поведение человека - гомеостаз, так как его эволюция - это усложнение диссипативной системы, а её активность суть гомеостаз. Даже размножение тоже гомеостаз, только на уровне макросистем повыше уровнем. А у ИИ гомеостаза нет, ибо он не той системы. Печальбеда. )

mihaild в сообщении #1572460 писал(а):

А вот если заниматься не философией, а логикой, то становится понятно, что это совершенно нормальная схема рассуждения: если аргумент доказывает собственную ничтожность, то он ничтожен. Такая схема рассуждений называется reductio ad absurdum.

По-видимому, всё-таки стоит заниматься философией. Так как reductio ad absurdum и близко нигде не наблюдается.

Рассуждением на естественном языке "доказывается", что рассуждение на естественном языке не способно что-то аргументировать. Это парадокс лжеца: Это утверждение ложь.

[mihaild]

Mihaylo в сообщении #1572462 писал(а):

что, авиатранспорт - это не народное хозяйство? Я бы порассуждал на тему, почему же полет самолета какой-то слабый

Ну и рассуждайте. Мне правда не очевидно, что для такого рассуждение запихивание полета птиц в одну категорию, и самолетов и вертолетов в другую, чем-то полезно.
Если что - у "слабого" и "сильного" ИИ есть относительно четкие определения.

Dicson в сообщении #1572468 писал(а):

А вот то, что эволюция искусственных систем не может быть сколько-нибудь значительной без человека

Чем тут принципиально отличаются искусственные системы от естественных, и где граница?

Dicson в сообщении #1572468 писал(а):

Любое поведение человека - гомеостаз, так как его эволюция - это усложнение диссипативной системы, а её активность суть гомеостаз

А приведите, пожалуйста, определение гомеостаза применительно к данному случаю. А то у этого термина есть несколько немного разных значений.

Dicson в сообщении #1572468 писал(а):

По-видимому, всё-таки стоит заниматься философией

Правилами корректных рассуждений занимается не философия.
А процитируйте на всякий случай место, где

Dicson в сообщении #1572456 писал(а):

как некоторые товарищи выше утверждают ничтожность философских аргументов, используя при этом философские аргументы, и тем самым не отходя от кассы опровергают сами себя.

Dicson в сообщении #1572468 писал(а):

Рассуждением на естественном языке "доказывается", что рассуждение на естественном языке не способно что-то аргументировать. Это парадокс лжеца: Это утверждение ложь.

Если немного подучить математику в дополнении к философии, то можно узнать, что если какая-то дедуктивная система доказывает, что ей пользоваться не надо, то ей пользоваться действительно не надо.

[talash]

mihaild в сообщении #1572431 писал(а):

talash в сообщении #1572405 писал(а):

Михаил, а Вы считаете, что сейчас в мире происходит какой-то прогресс в сторону создания сильного ИИ?

Да, происходит.
Точнее так: сейчас еще рано работать непосредственно над сильным ИИ, так же как Уотсону и Крику в 1960 было бы рано работать над полной расшифровкой генома.

А можете уточнить критерии, по которым определяете, что происходит прогресс в разработке сильного ИИ?

-- 03.12.2022, 22:57 --

Mihaylo в сообщении #1572429 писал(а):

talash в сообщении #1572406 писал(а):

Человеческий интеллект сильный по определению по крайней мере в рамках данной темы.

По какому определению? По философской гипотезе о существовании сильного и и слабого интеллектов?

Определение это факт, а не гипотеза.

Я как раз на другом форуме тоже видел людей, которые не различают аксиомы-теоремы, факты-гипотезы. Для них всё одно. Уровень форума из-за таких людей резко снижается.

-- 03.12.2022, 22:59 --

В английском используются термины Narrow AI, то есть узкий ИИ и General AI, то есть общий ИИ. Некоторые русскоязычные также предпочитают термин "общий ИИ" вместо "сильный ИИ".

[mihaild]

talash в сообщении #1572475 писал(а):

А можете уточнить критерии, по которым определяете, что происходит прогресс в разработке сильного ИИ?

Системы учатся решать всё больше задач, к которым раньше было непонятно как подступиться. Лично меня очень сильно удивило AlphaCode, решающая простенькие олимпиадные задачи по программированию.

talash в сообщении #1572475 писал(а):

В английском используются термины Narrow AI, то есть узкий ИИ и General AI, то есть общий ИИ. Некоторые русскоязычные также предпочитают термин "общий ИИ" вместо "сильный ИИ".

Да, английская терминология тут лучше. А еще мне нравится говорить "оптимизатор" вместо "интеллект" (оптимизатором называется система, предсказать результат действий которой проще, чем конкретные действия - например, играя в шахматы с Каспаровым, я не могу предсказать, какой он сделает ход, но могу предсказать, что он выиграет).

[Dicson]

mihaild в сообщении #1572474 писал(а):

Чем тут принципиально отличаются искусственные системы от естественных, и где граница?

Только не от "естественных", а от тех физических систем, к которым принадлежат биологические системы. И это прежде всего уменьшение энтропии. Точнее написано в определении диссипативной системы.

mihaild в сообщении #1572474 писал(а):

А приведите, пожалуйста, определение гомеостаза применительно к данному случаю. А то у этого термина есть несколько немного разных значений.

Гомеостаз - это саморегуляция, способность открытой системы (биология, физика) сохранять постоянство своего внутреннего состояния посредством скоординированных реакций, направленных на поддержание динамического равновесия. Открытая система в биологии - это организмы, устойчивые лишь при условии непрерывного поступления в них энергии и вещества из окружающей среды. В физике - подразумевая термодинамические открытые.

Цитата:

Термодинамические открытые системы активно взаимодействуют с внешней средой, причем наблюдатель прослеживает это взаимодействие не полностью, оно характеризуется высокой неопределённостью. При определённых условиях такая открытая система может достигать стационарного состояния, в котором её структура или важнейшие структурные характеристики остаются постоянными, в то время как система осуществляет со средой обмен веществом, информацией или энергией — этот процесс называется гомеостазом. Открытые системы в процессе взаимодействия со средой могут достигать так называемого эквифинального состояния, то есть состояния, определяющегося лишь собственной структурой системы и не зависящего от начального состояния среды. Такие открытые системы могут сохранять высокий уровень организованности и развиваться в сторону увеличения порядка и сложности, что является одной из наиболее важных особенностей процессов самоорганизации.

Открытые системы (физика) - Википедия.

mihaild в сообщении #1572474 писал(а):

Правилами корректных рассуждений занимается не философия.

Но эти правила вам не помогли, к сожалению. По-видимому, философия тоже важна. К тому же такое, без уточнений, разделение логики и философии попросту неверно. Логика - это один из предметов изучения философии. И возникла логика как наука в древнегреческой философии.

mihaild в сообщении #1572474 писал(а):

А процитируйте на всякий случай место, где

Это обобщение по многим высказываниям темы. Поэтому оно было без конкретных имён.

mihaild в сообщении #1572474 писал(а):

Если немного подучить математику в дополнении к философии, то можно узнать, что если какая-то дедуктивная система доказывает, что ей пользоваться не надо, то ей пользоваться действительно не надо.

Хорошо, спасибо, учту. Только где вы увидели, что кто-то действительно доказывает, что рассуждение на естественном языке не способно что-то аргументировать? У меня слово "доказывает" написано в кавычках. Поэтому речь именно о парадоксе лжеца. Впрочем, это очевидно.