2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1 ... 12, 13, 14, 15, 16, 17, 18 ... 24  След.
 
 Re: Еще раз про сильный ИИ
Сообщение09.12.2022, 15:01 


10/03/16
4255
Aeroport
AAA1111 в сообщении #1573211 писал(а):
Я правильно понял?


Нет конечно.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение09.12.2022, 20:11 
Заслуженный участник
Аватара пользователя


28/07/09
1179
AAA1111 в сообщении #1573211 писал(а):
Во-первых, избавиться от своих страданий (дискомфорта) навсегда (даже если для этого потребуется моё полное исчезновение навсегда). И соответственно максимально приблизиться к этому, если это невозможно.
Во-вторых, если избавление меня навсегда от страданий произошло, и я при этом остался жив (существую), то максимизировать уровень своей довольности (приятности своего самочувствия).


Короче говоря, дуккха :-)

Но кстати, обязан ли сильный ИИ быть устроен подобным образом?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение09.12.2022, 22:54 


01/09/14
440
mihaild в сообщении #1573133 писал(а):
Вы не указали, какие именно действия нужно проверять. С учетом того, что часть действий животных не может повторить человек, а часть может повторить камень, вам придется по сути произвольно выбрать набор действий. Что вполне себе тоже бенчмарк, но я не уверен, что какая-то "искусственная среда" тут нужна.

Я показал план в общем, как будет верифицироваться прогресс в разработке AGI. Далее конкретизировать пока нет смысла, нужна команда единомышленников. А у других якобы разработчиков AGI нет никакой конкретики, одна болтовня.

mihaild в сообщении #1573133 писал(а):
talash в сообщении #1573129 писал(а):
Вы просто покажите мне систему, где кибернетические животные умеют обучаться методом подкреплений
А вы покажите мне систему, где строят дома из кирпичей, каждый из которых покрашен в свой цвет. То, что чего-то нет, может означать как то, что этого делать не умеют, так и то, что это никому не нужно.

Это также может означать, что кому-то хочется за прогресс в AGI выдать некие наработки, которые нельзя адаптировать, чтобы они управляли простыми кибернетическими животными. Но из них якобы может появиться интеллект сравнимый с человеком. И никакой верификации прогресса этими деятелями конечно же не предусматривается.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение10.12.2022, 04:25 
Заслуженный участник
Аватара пользователя


16/07/14
8807
Цюрих
talash в сообщении #1573254 писал(а):
Я показал план в общем, как будет верифицироваться прогресс в разработке AGI
Вы тут набираете команду чтобы попробовать какой-то конкретный подход, или доказываете, что этот подход единственно правильный?

(я вроде выше уже написал, что считаю, что прямо сейчас пытаться идти в сторону AGI, не имея каких-то более близких промежуточных пунктов, идея плохая, хуже, чем если бы братья Райт сразу пытались построить сверхзвуковой самолет)

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение10.12.2022, 06:40 


05/12/14
21/07/24
252
Mihaylo в сообщении #1573183 писал(а):
Это очень важно! Это значит, что нейрон "брыкается" вне нейронной сети. И больше ничего это не значит. Отсюда не следует, что внутри нейронной сети нейрон генерирует шум!

Хаос - это всего лишь начало порядка. Он не для шума нужен, а для порядка. То есть именно для того, чтобы была возможна синхронизация. Причём не просто синхронизация, а скачкообразная.

Mihaylo в сообщении #1573183 писал(а):
P.S. Более того, от нейросети не следует ожидать творческого экстаза в виде случайного шума. Наоборот, реакция на внешние сигналы должна быть однозначной и правильной. Типа "Увидел пищу - поймай ее и съешь".

Ваше представление о шумном творческом экстазе нейросети смехотворно.

Из этого пассажа понятно только то, что вы не поняли, о чем вообще идёт речь. Смотрите ниже.

Mihaylo в сообщении #1573183 писал(а):
Теперь о синхронизации нейронов, что это такое и с чем это едят. Я прочитал ту статью по ссылке выше. Сам я не специалист. Синхронизация нейронов необходима для координации реакций нейронов. Нейроны имеют разные размеры, а значит разное время реакции. Но допустим при дыхании разные нейроны должны отвечать: один - за вдох, другой - за выдох. Надо их синхронизировать. Вот и все. Больше тут ничего таинственного нет.

В принципе верно. На входе нейронная сеть мозга имеет рецепторы внутренней и внешней среды, а на выходе мышцы и железы. Таким образом, физиологическая суть мышления заключается в преобразовании чувствительности в двигательную активность, то есть преобразовании сигналов рецепторов в активность мышц и желёз. Нервная система организует работу мышц и посредством желёз координирует с работой мышц работу остального организма.

Очевидно, чтобы поведение имело пространственно-временную упорядоченность, импульсы на выходе нейронной сети тоже должны быть упорядочены. Не лишними также будут чувствительность, пластичность. Или способность мозга качественно перестраивать режим работы, в зависимости от пусть физически ничтожного, но важного в контексте опыта обстоятельства.

Выполнить все эти требования без хаотических нейронов невозможно.

Биологическая нейронная сеть управляет мышцами, поэтому даже лёгкий взмах руки должен сопровождаться изменением активности сразу всех мышц, иначе, например, может быть утрачено равновесие. Другими словами, малейшее изменение активности любой мышцы должно быть связано с изменением работы сразу всей нейронной сети мозга (в зависимости от ситуации эта связь будет, естественно, разной, но она всегда есть). Причём время перестроения работы сети должно быть сведено к минимуму, то есть перестроение активности мозга должно иметь скачкообразный характер, а сам скачок должен происходить от одного упорядоченного состояния к другому упорядоченному, то есть так, чтобы не было длительного переходного периода, когда активность всех мышц ещё не организована в направлении новой цели, поэтому поведение неупорядоченно, хаотично. Проще говоря, поведение всегда должно иметь смысл - тот или иной, а не неопределённый.

И наконец биологическая нейронная сеть должны быть чувствительной, животное должно быть способно выделить самые слабые сигналы рецепторов или самую малую разницу во времени или степени их активизации - и, например, построить путь, учитывая самые тонкие нюансы среды. В том числе "построить путь" от предпосылок к логическому выводу, когда малейшее противоречие в опыте может стать основанием качественно и энергично изменить поведение, следуя новым идеям.

Вот это всё и обеспечивает хаотический нейрон. Упорядоченность, целостность, чувствительность и пластичность. И в итоге - сложность. За счёт чего обеспечивает - как раз обсуждалось в этой теме.

mihaild в сообщении #1573205 писал(а):
А вообще "сложность нейрона" "выразить" хоть в чем-то возможно?

Выразить целенаправленно? Написать программу, которая будет моделировать поведение нейрона? Я ранее привел аргументы, что нет. Программа всегда будет проще - и не в незначимых для мышления параметрах. Поэтому создавать ИИ можно, только так или иначе пытаясь заменить "качество сложности" биологических нейронов "количеством простоты" искусственных. Но, если ранее приведённые аргументы верны, то это тупик, так как отбор и рост неопределённости близко к сложности интеллекта человека приблизиться не позволит.

Создать нейрон, так или иначе повторив эволюцию? Это зависит от того, откуда стартовать, а также потребует конкретизации, что понимать под словом "выразить". Потому что целенаправленность "выражения" здесь ограничена. Это только равновесные системы можно последовательно собирать, точно контролируя процесс и результат. Но биологические системы существуют только в интенсивном обмене со средой, поэтому их можно только "выращивать" или вносить изменения в геном уже готовых организмов. Однако, чем сложнее организм, тем менее будет предсказуем результат. А значит, опять тот же отбор и рост неопределённости. В итоге из биологических искусственных или естественных нейронов создать сильный ИИ тоже не выйдет.

(По "рукомахательству")

Я могу написать ответ на скрытый текст, но если вы считаете, что сказано достаточно, то я с этим в принципе согласен. Конечно, с тем, что аргументы "рукомахательные" (имея в виду уничижительный смысл этого понятия), я не соглашусь, но у вас может быть свой взгляд. К консенсусу мы не пришли, но что ж.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение10.12.2022, 07:17 


12/07/15
3068
г. Чехов
Dicson в сообщении #1573270 писал(а):
Выполнить все эти требования без хаотических нейронов невозможно.

Очередное "мягкое" доказательство с вашей стороны. Так вы и до невычислимости мышления дойдете. :facepalm:

Давайте так: конечно нейробиология какой-нибудь миноги - это круто, изучение этих процессов позволит понять причины каких-то отклонений здоровья миноги.

Не питайте иллюзию. Изучая особенности перышек птицы, вы не создадите самолет. Нужно учить физику, а не заниматься орнитологией.

Также и тут: учите машинное обучение (прикладной матстат). Вот вам задача XOR, решайте ее!

-- 10.12.2022, 09:26 --

Dicson в сообщении #1573270 писал(а):
В итоге из биологических искусственных или естественных нейронов создать сильный ИИ тоже не выйдет.

Детский сад. Сначала выдвинули гипотезу о СИИ, затем по-ребячески представили, что надо подглядеть у царь-матери-природы-несомненно-идеальной, как бы этот СИИ создать. Потом прикинули, разбавивши неглубокими познаниями в науках, что это невозможно. И вот он, окончательный вердикт.

Жизнь немного сложнее. Специалисты в своей области - это обладатели черного пояса, они вам объяснят, что в ваших рассуждениях не так.

Но вы уперты.

А неправильно все: постановка задачи, требования, архитектура решения, методологии и самое главное - маркетинг (или по-русски - применимость в народном хозяйстве).

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение10.12.2022, 14:08 
Заслуженный участник
Аватара пользователя


16/07/14
8807
Цюрих
Dicson в сообщении #1573270 писал(а):
Это зависит от того, откуда стартовать, а также потребует конкретизации, что понимать под словом "выразить".
Стартовать откуда угодно, хоть по классике из праха земного. Понимать под "выразить" ровно то, что вы понимали, утверждая, что "в кремнии нельзя выразить сложность нейрона".

Давайте с малого. Взяли много планет в обитаемой зоне, закинули туда каких-нибудь бактерий, подождали миллиард лет. Верно ли, что довольно вероятно, что на части из них появится сильный интеллект?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение11.12.2022, 00:09 


05/12/14
21/07/24
252
Mihaylo в сообщении #1573271 писал(а):
Так вы и до невычислимости мышления дойдете.

Я ещё на первых страницах до неё дошёл. С тех пор мы вместе. А недавно ещё и физический аспект этого единения, так сказать, проявился. Так что... у нас с невычислимостью всё хорошо.

Остальное в вашем посте комментировать, по-видимому, бессмысленно. Но, чувствуется, вы писали от души. Это приятно.

mihaild в сообщении #1573306 писал(а):
Понимать под "выразить" ровно то, что вы понимали, утверждая, что "в кремнии нельзя выразить сложность нейрона".

Возможность выразить можно понимать как "можно ли выразить в принципе" или только "способен ли на это человек". "В кремнии" эти варианты совпадают - ни человек не сможет, ни в принципе нельзя, а в случае попытки повторения эволюции не совпадают. Человек не сможет, а природа уже смогла.

mihaild в сообщении #1573306 писал(а):
Давайте с малого. Взяли много планет в обитаемой зоне, закинули туда каких-нибудь бактерий, подождали миллиард лет. Верно ли, что довольно вероятно, что на части из них появится сильный интеллект?

Нервная система возникла около 550 млн лет назад, поэтому если стартовать от бактерий, миллиарда может не хватить. Но вообще при наличии соответствующих условий появление жизни и её эволюция к высшим формам выглядит абсолютно закономерной. Когда появление первой клетки казалось случайным соединением молекул, то вероятность её появления выглядела совершенно ничтожной, а эволюция становилась и вовсе невозможной. Но наличие в природе такого явления как диссипативная самоорганизация означает, что жизнь - это обычное физическое явление.

Вопрос только, сколько планет есть с подходящими для появления жизни условиями, насколько широко эти условия могут варьироваться, и почему весь эфир ещё не заполнен сигналами от инопланетян. Впрочем, ответ на последний вопрос можно предположить - он в результатах эксперимента Вселенная 25. То есть технологически высокоразвитая цивилизация есть лишь ничтожно краткий этап жизни, как вообще существования биосферы в том или ином виде.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение11.12.2022, 04:06 


12/07/15
3068
г. Чехов
Dicson в сообщении #1573353 писал(а):
Остальное в вашем посте комментировать, по-видимому, бессмысленно. Но, чувствуется, вы писали от души. Это приятно.

Ваша статья валяется на помойке с 2017 все с теми же "мягкими" доказательствами, ничего не поменялось. В духе: "из Гёделя, Шрёдингера, Эйнштейна, Пригожина следует невычислимость/неалгоритмичность мышления". Я не знаю, кто из вас более продвинутый, вы или Виталий Ванчурин, который обнаружил, что Вселенная - это нейросеть:
https://arxiv.org/pdf/2008.01540.pdf

Вы пришли на научный форум МГУ и несёте свою околесицу.

Как же после этого от души не писать?)

Вам уже 15 страниц оппоненты доводы пишут. Это не дискуссия, а простые вещи, в которых вы на протяжении 15 страниц, не проглядываете свое истинное положение. Ваше положение печально.

Но печально, что ничего не меняется. Пластичности не хватает.

-- 11.12.2022, 06:10 --

Я не знаю, что ожидает от дискуссии mihaild, кажется, он не понял, что сюда зашли ферматисты от ИИ, которые ещё статьи пишут.)))

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение11.12.2022, 06:16 


12/07/15
3068
г. Чехов
Golicin в сообщении #1573385 писал(а):
Неалгоритмичность мышления очевидна всем кто знает что такое алгоритм.

Я ж недавно говорил, что программисты (это как раз те, кто знает, что такое "алгоритм") хуже других могут понять ИИ из-за профессионального сдвига. Они реально знают, как трудно писать и отлаживать программы со сложным поведением. Но они не знают, как правило, что сложность обеспечивается не только строчками кода, но и данными.
Например, программа, которая отображает карту любого города мира, достаточно проста. По-крайней мере, она проще, чем итоговый результат: мы видим сложные и разнообразные изображения.

Поэтому, господа программисты, айда читать статью "сильные данные vs сильный интеллект". https://habr.com/ru/sandbox/142304/
Читайте внимательно!

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение12.12.2022, 06:09 


05/12/14
21/07/24
252
Mihaylo в сообщении #1573383 писал(а):
Вам уже 15 страниц оппоненты доводы пишут. Это не дискуссия, а простые вещи, в которых вы на протяжении 15 страниц, не проглядываете свое истинное положение. Ваше положение печально.

Но печально, что ничего не меняется. Пластичности не хватает.

Задор, душевность, передёргивания и галиматья в ваших постах впечатляет, конечно. Но надо же и расти. Попробуйте хотя бы что-нибудь по существу добавлять. Не согласны - обоснуйте, утверждаете - поясните. И так далее.

Mihaylo в сообщении #1573383 писал(а):
Ваша статья валяется на помойке с 2017 все с теми же "мягкими" доказательствами, ничего не поменялось.

Касаемо "моих статей на помойке с 2017" или, скажем, школьных сочинений (может, вы и их отыщете), которые тоже, наверное, на помойке где-то, то забудьте о них. Всё течёт всё меняется, и я уже не тот. И статьи не те, не там и не мои. Свои я ещё не дописал. И по помойкам не лазайте.

Dicson в сообщении #1573505 писал(а):
Но, конечно, не свелась бы. Иначе, например, оказалось бы, что всё наше поведение было задано ещё в момент рождения Вселенной. Поэтому, если приглядеться, история с бабочкой (бифуркацией) выглядит интереснее. Но здесь это оффтоп.

А здесь нет.

Любое переключение внимания происходит как переход через точку бифуркации, так как переключение внимания суть синхронизация новых ансамблей нейронов на частоте гамма-ритма. Переключение внимания — это элемент работы мозга, составляющая процесса мышления. Кто управляет переключением внимания? Мозг — это часть среды, поэтому кажется очевидным, что в конечном итоге переключением внимания управляет среда, то есть свободы воли нет и ни в каком виде быть не может. Наоборот, если мозг отвечает за переключение внимания сам, то вопрос о наличии свободы воли как минимум становится уже не так однозначен.

Чувствительность системы в точке бифуркации к бесконечно малому изменению её параметров — это одновременно и чувствительность системы к бесконечно малому воздействию, а значит, полная неотделимость системы в точке бифуркации от среды — от «всего». Однако исходя из того, что у «всего» уже не может быть никаких предопределяющих его причин, так как причины всего тоже часть всего, то, как ни странно, выбор системы в точке бифуркации не предопределён. Причины, заранее предопределяющей выбор системы, не найти, даже если расширить поиск на всё, причём даже исходя из того предположения, что этот выбор происходит в строго детерминированном мире. Представление, что выбор в точке бифуркации может быть задан заранее и вне системы является противоречивым, так как в момент перехода через точку бифуркации утверждения о чём-либо «до системы» или «вне системы» теряют смысл — система в точке бифуркации и есть «всё».

Тем не менее выбор происходит. Следовательно это выбор самой системы, принципиально не предсказуемый и возникающий в сам момент перехода. Но самостоятельный выбор системы, который принципиально невыводим из каких-либо более ранних и внешних по отношению к системе обстоятельств, очевидно, противоречит принципам детерминизма, как доктрине о всеобщей причинности, предопределённости. Как это может быть? Ответ в том, что противоречивым является само представление о детерминизме.

Любое знание, чтобы иметь смысл, должно иметь границы применимости — границы его расширения на время и пространство. И в случае безграничного расширения на всё — на все уровни материи — точно так же теряет смысл и идея какого-либо детерминизма и предопределённости, представление о причинах и следствиях. Мир тот или иной только в той степени, в какой его в принципе можно понять, но какой он «на самом деле» — известно быть не может.

Надо подчеркнуть, противоречивость идеи детерминизма для описания выбора системы в точке бифуркации не означает, что этот выбор является, наоборот, случайным. Во-первых, он связан с бесконечно малым изменением параметров системы, а значит, очевидно, уже не случаен. Во-вторых, в случае расширения на всё идея любого мыслимого выбора, в том числе случайного, точно так же теряет смысл, как и идея выбора детерминированного, и вообще любая другая идея. В итоге можно прийти к выводу, что выбор в точке бифуркации — это выбор самой системы, что его сложность бесконечна, но на вопрос, как конкретно он происходит, ответа не существует.

С переходом через точку бифуркации связаны процессы самоорганизации - а это и эволюция, и морфогенез, и работа мозга. Поэтому если бы процессы самоорганизации в природе были в точности обусловлены прошлыми обстоятельствами, то есть, по сути, «заданы заранее», то настройки начальных условий Вселенной должны быть столь невероятно точными, что возможность таковых просто не имеет смысла. Условно говоря, есть большая разница между настолько точным подбором траекторий движения всех атомов и молекул, чтобы в какой-то момент времени они соединялись в сложно организованные и активные структуры (к тому же так, чтобы со стороны можно было наблюдать их эволюцию, размножение и мышление), и возможностью элементам просто собираться в неупорядоченные наборы, усложнение которых будет происходить само собой, за счёт внутренних факторов, только по причине интенсивного взаимодействия с окружающей средой.
***

Таким образом, вопрос свободы воли не так очевиден, как может показаться. Для более точного понимания надо рассматривать логику работы нейронной сети, не зависит ли внимание само от себя, где в мозге субъект и т. д..

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение12.12.2022, 08:21 


12/07/15
3068
г. Чехов
Dicson в сообщении #1573506 писал(а):
Условно говоря, есть большая разница между настолько точным подбором траекторий движения всех атомов и молекул, чтобы в какой-то момент времени они соединялись в сложно организованные и активные структуры (к тому же так, чтобы со стороны можно было наблюдать их эволюцию, размножение и мышление), и возможностью элементам просто собираться в неупорядоченные наборы, усложнение которых будет происходить само собой, за счёт внутренних факторов, только по причине интенсивного взаимодействия с окружающей средой.

Созидание-то понятно, но здесь важен отбор, естественный отбор. И не всегда происходит усложнение. Нельзя говорить о том, что природа созидает что-то. Нет, это все просто существует.
Все, что имеет длительный период существования, имеет бОльшую вероятность обнаружения в некоторой локации и времени. Это касается частиц: протоны, нейтроны, электроны. Это касается химических соединений: молекулы воды, кислорода, солей и т.п. Это касается флоры и фауны. Для флоры и фауны есть отдельное название эффекта - "естественный отбор".

Dicson в сообщении #1573506 писал(а):
Таким образом, вопрос свободы воли не так очевиден, как может показаться.

Довольно прост этот вопрос. Если выбор между добром и злом, то выбирается добро. Если выбор между злом и злом, добром и добром или между другими нейтральными вариантами, то мы говорим, что в этот момент у нас есть свобода воли. Такая упрощённая модель усложняется ещё тем, что иногда добро и зло неочевидны и требуют проведения оценивания, но затруднено обстоятельствами, в т.ч. бифуркацией. Итого у человека повышается число случаев свободного выбора. Но при выборе между злом и добром свободы выбора нет.
Но допустим, вы заключаете со мной пари, что демонстративно сделаете выбор в пользу зла и против добра или, например, сделаете это намеренно с целью научно-философского эксперимента, то можно будет говорить, что в целом вы сделали выбор в пользу добра (выиграно пари, проведен эксперимент), хотя этот выбор включал в себя плохой подвыбор.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение10.02.2023, 17:07 
Аватара пользователя


17/10/22
330
Energos в сообщении #1571040 писал(а):
 i  Ende
Выделено из темы «Статья по квантовую запутанность в мозге»

Тут интересен вопрос, а выполняют ли эти квантовые эффекты какие-либо полезные функции или они всего лишь некий побочный продукт, который практически не влияет на мыслительный процесс.

Судя по тому, что полноценный ИИ до их пор так и не создан, несмотря на сотни петафлопс вычислительных мощностей, наверно без квантовых вычислений никак.

Возможно уже было, но не читая всё обсуждение вставлю свои пять копеек:
1) Создание полноценного (сильного?) ИИ упирается не только и не столько в производительность компьютера
2) Если взять за основу ИНС, то никаких сотен петафлопс не хватит.

Подробнее по второму пункту. Условно, мозг состоит из 100 млрд нейронов. Аналогом одного живого нейрона является не искусственный нейрон, а отдельная ИНС. Пусть это будет ИНС из 1000 нейронов. Соответственно суммарно моделирующая мозг ИНС должна иметь 100 трлн нейронов. Это вполне реально в ближайшие годы, но в плане производительности можно перевести такие масштабы на нейропроцессоры. Intel Loihi 2 (30 мм2) содержит 1 млн искусственных нейронов и 74 млн транзисторов. Округлим до 100 млн транзисторов (тем более, что закон Мура) - получается 100 транзисторов на 1 искусственный нейрон. Соответственно на живой мозг из 100 млрд живых нейронов нужно 100 x 1000 x 100 млрд = 10^16 транзисторов. Для сравнения, самый производительный в мире суперкомпьютер (Frontier) имеет около 10000 x 100 млрд транзисторов. Если я нигде не обсчитался, то для моделирования мозга нужно 10 таких суперкомпьютеров.

Но все эти выкладки по большому счету бесполезны, поскольку отдельно взятые интеллектуальные задачи (например, решение школьных задач) умеет решать ИНС с 1 млрд параметров, обученная на четырех NVIDIA Tesla V100. Так что никакого смысла создавать транзисторную копию мозга просто нет - тем более если мы не знаем во всех деталях как он обучается и принимает решения.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение12.02.2023, 04:51 


05/12/14
21/07/24
252
MoonWatcher в сообщении #1581028 писал(а):
1) Создание полноценного (сильного?) ИИ упирается не только и не столько в производительность компьютера

Только, по-моему, у вас всё равно аргументы "количественного" характера, а не принципиального. В теме же речь шла несколько о другом. Вкратце вот об этом:

ИИ обучается на знаниях человека, причём малой их части - на том, что удалось формализовать, то есть фактически ИИ существует в простой модели реальности. Естественно, особо много здесь не надумаешь и адекватности всегда будет не хватать, ведь нам основы разумного/логичного (здравого смысла) даёт всё-таки мир реальный. Следовательно ИИ надо вылезти из этой ограниченной модели в сложность реального мира. Это может быть возможно на практике, только в принципе или невозможно вообще.

На практике ИИ вылезти не сможет, так как чем ближе сложность ИИ будет приближаться к сложности нашего собственного интеллекта, его поведение будет всё сложнее оценить. Потому что это равносильно возможности посмотреть на себя со стороны, выйти за рамки самого себя, то есть включить самого себя во всех подробностях в свой собственный опыт. Естественно, это невозможно, явление равное сложности самого себя познать можно только очень ограниченно. Можно сказать по-другому. Мир - это наш опыт (мир дан нам в ощущениях), поэтому оценить себя - это выйти за рамки мира. Например, точно так же нынешний ИИ не способен оценить наши знания - это его мир, он не может выйти за его пределы, посмотреть на них со стороны.

Если создаваемую систему невозможность оценить, то её создание превращается в задачу создать то, неизвестно что, и в итоге полную неопределённость по всем направлениям создания. Как следствие, на некотором этапе время каждого нового этапа усложнения ИИ начнёт стремительно расти к бесконечности. Этому есть более развёрнутые пояснения, они где-то в теме.

Остаётся вариант "в принципе". Этот вариант означает, можно ли вообще воспроизвести сложность ЕИ в каком-либо алгоритме. Например, в искусственных нейронных сетях. Нейронные сети обучаются "статистически" - чем чаще что-то в условиях повторяется, тем больше оно влияет на поведение. Следовательно, ИИ не сможет воспроизвести сложность ЕИ, если по каким-либо причинам ИИ в принципе не способен воспринимать условия в той полноте, в какой это может делать ЕИ. То есть статистика, с которой работает ЕИ, должна быть качественно полнее, чем статистика, которую может выявить в условиях ИИ.

Похоже, это действительно так. Работа мозга на всех уровнях связана с неравновесными фазовыми переходами, то есть переходами через точку бифуркации. В точке бифуркации в принципиальном смысле чувствительность системы ничем не ограничена, потому что бифуркация (согласно определению) - это качественное изменение поведения динамической системы при бесконечно малом изменении её параметров. В искусственных системах воспроизвести такую чувствительность невозможно.

Вот, собственно, и всё. ЕИ сильнее ИИ и в принципиальном смысле тоже. Хотя это уже неважно, так как достаточно невозможности создания сильного ИИ на практике.

В том числе сказанное означает, что, например, нельзя создать какой-нибудь ИИ, какой создать получится, выпустить его на волю и пусть он дальше сам. Дело в том, что эволюция - возможность самостоятельного усложнения систем - тоже связана с неравновесными фазовыми переходами. Точнее говоря, системы, которые эволюционировать способны (открытые термодинамически неравновесные, или диссипативные) - это системы принципиально отличные от функционирующих по какому-либо алгоритму. Поэтому ИИ не сможет сколько-нибудь далеко и адекватно развиваться без человека, а с человеком - см. выше.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение12.02.2023, 06:24 


12/07/15
3068
г. Чехов
Dicson
Про здравый смысл и ИИ.
В пятницу на производстве состоялся разговор про политику. Один громким голосом ругался в духе "в Кремле одни воры, Путина надо расстрелять!", другой тоже повышенным тоном сказал: "вы все плебеи, заслуживаете этого!". Один рабочий сбежал подальше от этих горлопанов, другие смеялись.
Вот он здравый смысл человека.
Человек хорошо разбирается в одних вещах, но плохо в других. Когда он плохо разбирается в чем-то, например, в политике, это ему сходит с рук, мы прощаем этот косяк. Если взрослый человек не умеет завязывать шнурок, то это в высшей степени странно. Мы видим разных людей и постоянно оцениваем их. У нас у каждого сложилось свое впечатление, как отличить нормального человека от ненормального, или, иными словами, как оценить силу ИИ.
Тест Тьюринга такой. Это субъективная штука.

1. ИИ сочинил стишок - мы не оценили, это типа просто, срифмовать.
2. ИИ не сумел завязать шнурок - ага, слабость проявил.
3. ИИ глубокомысленно расписал, где там в Кремле, кто кого подсиживает, чего ожидать в будущем - мы считаем, что это "калькулятор", а не разум.

Разработчики ИИ не стремятся угодить вашему впечатлению о том, какой должен быть нормальный человек. Там применяются другие метрики совсем.

В общем нет смысла говорить о "сильном интеллекте", так как это лишь человеческая точка зрения. ChatGPT - это полиглот на естественных языках и языках программирования. Он крут. С ним можно говорить на любую тему, а не как с рабочими на производстве.

-- 12.02.2023, 08:42 --

Dicson
В ваших речах заметна такая любовь к человеческому разуму, его недостижимость, невычислимость.... Искусственные же системы не могут....
Я вам скажу просто - вы находитесь под влиянием когнитивных искажений. Вы не способны адекватно рассуждать об искусственном интеллекте. Вы просто берете какое-нибудь умное слово типа "бифуркация" и утверждаете, что искусственные системы не могут бифуркации. Чего там не могут - это вас не заботит. Идём дальше. Слышали про теоремы Гёделя, бедный Гёдель... Прикрутили теоремы к "доказательству".

Все ваши рассуждения ненаучны. В искусственном интеллекте вы ничего не понимаете, ибо элементарно машинное обучение не проходили.

Вы говорите об ИИ со здравым смыслом, но как тот рабочий про Путина. И мы прощаем вам это. :facepalm:

-- 12.02.2023, 08:58 --

Dicson в сообщении #1581216 писал(а):
Похоже, это действительно так. Работа мозга на всех уровнях связана с неравновесными фазовыми переходами, то есть переходами через точку бифуркации.

Давайте разберем это ваше любимое утверждение. Вы готовы обосновать его?
Мы тут на научном форуме, не любим подобную болтологию. Приведите пример хотя бы двух уровней чего-то там в мозге.
И чтобы это не было так, что нейрофизиологи что-то написали, а вы как карго-культ повторяете, не вникая в смысл.
За синхронизацию нейронов я вам в прошлый раз пояснил.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 349 ]  На страницу Пред.  1 ... 12, 13, 14, 15, 16, 17, 18 ... 24  След.

Модератор: Модераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group