О возможности создания сверхчеловеческого ИИ

[mihaild]

zykov в сообщении #1686296 писал(а):

А если есть возможность распараллеливания вычислений, то повысить быстродействие ещё проще - увеличь размер системы

Там возникают ограничения на архитектуру, потому что сделать быстрый доступ к большому объему памяти не получается.
Кроме того - да, разница между 10 секундами и годом в данном контексте не очень важна, и если у нас будет система, которая может решить P vs NP за год, то, скорее всего, её можно допилить до системы, решающей P vs NP за секунду.
А вот если у нас система решает P vs NP за $8^{2^{30}}$ (перебором доказательств, надеюсь, в гигабайт это доказательство уложится), то на практике увеличением размера системы ни до чего практически интересного оно не доводится.

[Mihaylo]

Anton_Peplov в сообщении #1686266 писал(а):

Если система замкнута, может ли вообще в нее поступать информация?

Да, вы правы. Это может быть одно и то же, замкнутая система - это такая, в которую не поступает информация. Но не будем забегать так далеко, так как не менее важно следующее:

Anton_Peplov в сообщении #1686266 писал(а):

Какое определение информации используется?

Представьте себе, можно объявить микропроцессорную систему замкнутой системой и перебирать значения $x, y, z, n$, пытаясь доказать ВТФ. Будет ли каждая проверенная четвёрка - получением свидетельства о справедливости ВТФ? А означает ли это увеличение количества информации в замкнутой системе?
Я считаю, можно так сформулировать меру информации, что закон сохранения (ЗС) информации будет соблюдаться в замкнутой системе. Для этого надо "прикинуться шлангом" следующим образом: микропроцессор, который способен перебрать все четвёрки чисел, изначально "знает" доказательство ВТФ. И результаты перебора не ведут к появлению новой информации.

[Ghost_of_past]

Mihaylo в сообщении #1686322 писал(а):

Я считаю, можно так сформулировать меру информации, что закон сохранения (ЗС) информации будет соблюдаться в замкнутой системе

И зачем это делать? Это несет какой-то практический научный толк? В какой научной литературе (статьи, монографии) про это можно прочитать?

[Mihaylo]

Ghost_of_past в сообщении #1686147 писал(а):

Это Вы проверили всех философов? И почему вообще надо задаваться таким вопросом?

Было бы интересно услышать учёных, а не философов. Ладно, не буду различать тех от других. Но я абсолютно уверен, что философия ещё не задавалась таким вопросом, так как действительно, непонятно, зачем.

В чём собственно проблема?

ИИ (как и любой интеллект вообще) может генерировать больше информации, чем получает при обучении. Этот известный факт называется обобщающей способностью и, кстати, "противоречит" закону сохранения информации (если не исхитриться так же, как я предложил выше).

-- 18.05.2025, 18:03 --

Ghost_of_past в сообщении #1686325 писал(а):

И зачем это делать? Это несет какой-то практический научный толк? В какой научной литературе (статьи, монографии) про это можно прочитать?

Во имя науки же, конечно. Почитать Вы об этом может и сможете, я просто не могу Вам помочь в этом. Я лишь знаю, что философы посчитали и утвердили, что меры информации Шеннона/Хартли пригодны только для синтаксической информации, а для прагматического/семантического видов информации таких хороших общепризнанных формул нет. И на этом "наука" пока стоит. Это очень слабенький результат.

[Ghost_of_past]

Mihaylo в сообщении #1686328 писал(а):

Но я абсолютно уверен, что философия ещё не задавалась таким вопросом

Философия совершенно точно таким вопросом задавалась. Даже такая провинциальная философия как советская/постсоветская. Информационную и кибернетическую природу психики, сознания и интеллекта, например, активно изучал Давид Дубровский. У него есть прямо монография на эту тему - "Информация, сознание, мозг".

А уж в мировой философии психики, нейрофилософии, философии сознания, философии информации и философии ИИ про это написаны горы всего.

Mihaylo в сообщении #1686328 писал(а):

"противоречит" закону сохранения информации

Противоречие этому закону было бы возможно, если бы Вы сумели показать, что такой закон реально существует. Пока я оснований и аргументации для этого не увидел.

Mihaylo в сообщении #1686328 писал(а):

Во имя науки же, конечно

Во имя науки дайте ссылки, пожалуйста, на статьи и монографии, где бы этот закон описывался бы.

Mihaylo в сообщении #1686328 писал(а):

Я лишь знаю, что философы посчитали и утвердили, что меры информации Шеннона/Хартли пригодны только для синтаксической информации

Какие именно философы это посчитали и утвердили? Где ссылки?

В философии информации используется целое множество даже определений понятия "информация", а не единое общее как это бывает в какой-нибудь работающей практике (например для нужд ISO). Я могу вновь процитировать для примера несколько, чтобы показать, сколь широки подходы к этому понятию в философском осмыслении:

1) Информация – это обозначение содержания, полученного от внешнего мира в процессе приспособления к нему (Н. Винер).
2) Информация – отрицательная энтропия (негэнтропия) (Л. Бриллюэн).
3) Информация – вероятность выбора (А. М. Яглом, И. М. Яглом).
4) Информация – снятая неопределенность (К. Шеннон).
5) Информация – мера сложности структур, мера упорядоченности материальных систем (А. Моль).
6) Информация - снятая неразличимость, передача разнообразия (У.Р. Эшби).
7) Информация – отраженное разнообразие (А. Д. Урсул).
8) Информация – мера неоднородности распределения материи и энергии в пространстве и времени (В. М. Глушков).

Mihaylo в сообщении #1686328 писал(а):

а для прагматического/семантического видов информации таких хороших общепризнанных формул нет

А я вот сходу нашел даже в банальной русскоязычной Википедии множество подходов про семантическую информацию, в том числе с формулами. Уверен, что если погрузиться в профессиональную тематику подробнее, то там намного больше всего найдется.