Это понятно, но мы обсуждаем не познаваемость мира, а шансы ИИ на познание этого мира через как минимум тексты, возможно также видео. Чисто умозрительно познание мира через его модель ущербно - но ведь люди познают вовсе не весь мир, а какие-нибудь триллионные доли мира, познанного человечеством в целом.
"Какие-нибудь триллионные доли мира, познанного человечеством в целом" люди познают в контексте реального мира, включая социум, то есть в контексте более богатом и "истинном". Тем самым получая возможность оценивать знания со стороны здравого смысла. Причём в "познанном человечеством" они познают не "триллионные доли", то есть не всё во всех подробностях, а получают общее представление о том, что до них понято человечеством, в том числе о том, что и почему было опровергнуто, а специализируются уже в каких-то частных областях. Это общее представление опять же работает на здравый смысл, понимание того, что в целом происходит в мире, умению отделять разумное от не разумного.
ИИ обучается на текстах. Что чаще в каком контексте повторяется, то в этом контексте и разумно. Но, не имея человеческого опыта, он не способен столь точно, как человек, отделить один контекст от другого. Как следствие, получая вопрос и понимая его контекст своеобразно, в ответе появляется то, что в нём не разумно. С точки зрения ИИ всё великолепно, но человек видит неадекватность ответа. В итоге ИИ знает много текстов, но доверия его выводам нет.
И этого не избежать, если обучение происходит на "познанном человечеством". К примеру, пытаясь сделать ИИ умнее, вы подключаете его к интернету, и он набирается там бреда, а давая только проверенные тексты, вы сужаете опыт, тем самым опять же способствуя непониманию контекста. В результате вы получите приблизительно такую же неадекватную картину, но теперь уже из-за недостатка опыта. То есть дело не только в текстах, улучшая дата-сеты вы всё равно не заставите ИИ понимать их как человек, потому что он не человек, у него другой опыт.
При этом ИИ ещё и много проще человеческого интеллекта, то есть объём опыта у человека несравнимо больше, чем у ИИ. Просто в некотором смысле основная его часть - это опыт перемещения в среде и вообще разного рода взаимодействия с ней, включая социальные отношения. То есть фактически всё то, что и образует здравый смысл.
Парадокс Моравека, прочитайте. Речь - это малая часть мышечной активности (мозг управляет мышцами - на входе нейронной сети мозга рецепторы, на выходе мышцы). Мы воспринимаем и "понимаем" много больше, чем можем высказать, формализовать.
Тогда как ИИ теоретически может познать модель мира (тексты, видео) на все 100%, и при этом обнаруживать в нем скрытые от человека закономерности.
"Познать на 100%" ничего нельзя, знания об объекте познания - это не сам объект познания. Поэтому тот смысл, который мы вкладываем в какой-то текст, ИИ понимает не так как мы - и как мы не поймёт, ведь у него другой опыт и его меньше. Мы так же всё понимаем по-своему, но в меньшей степени, так как мы все приблизительно одной сложности, обученные в одном мире, различаясь только в частностях опыта.
При этом в сети все знания находятся в распределённом виде, поэтому что конкретно в тексте ИИ познал, что не познал, мы никогда не знаем. В смысле мы никогда не знаем, что из текста осталось в памяти ИИ, как он его воспринял. Упрощённо говоря, вместо того, чтобы различать на картинках кошек и собак, ИИ может научиться различать фон. Так же и с текстами.
Любой ответ ИИ - это "выявленные скрытые закономерности", ведь ИИ его сам сочинил, именно выявив закономерности в обучающей выборке. Но действительно, ИИ может и что-то интересное выдать, то есть действительно сделать некое более или менее значимое открытие или дать дельный совет. Проблема в том, что это всё тонет в малосодержательном и неадекватном, ведь таких закономерностей несравнимо больше, а ИИ - см. выше - слаб в отделении разумного от бреда. Но в каком-то смысле помощником по генерации гипотез ИИ, вероятно, может подрабатывать.
Фактически основное достоинство ИИ сейчас - это скорость, с которой он может делать простую интеллектуальную работу, а основная проблема - неадекватность.
Представьте, что ИИ регистрирует и анализирует всю доступную человечеству информацию о мире - в моем понимании это расширит знание о мире на порядки. Это все равно что сравнить дикаря, который целыми днями наблюдает физические, химические, биологические, социальные и прочие явления окружающего мира - но не понимает их, и академию наук, с тысячами ученых, которые изучают непосредственно физику, химию и т.д. У кого из них складывается более полная картина мира - у практика-дикаря или у теоретиков-ученых?
Тексты находятся в интернете, а там полно бреда, и его становится относительно всё больше, по крайней мере явно не меньше. В итоге без здравого смысла знания только умножают скорбь.
Запустить ИИ в мир в виде робота теоретически не проблема - в ваших глазах, как я понимаю, это уравняет его познание мира с человеческим. Но вряд ли это сколько-нибудь значительно расширит его знания о мире по сравнению со знанием, которое ИИ почерпнул из текстов и видео.
Наоборот, проблема. Вы запустите простого робота, слабый ИИ. Чтобы он стал сильным, надо или чтобы он эволюционировал, или мы сами должны сразу сделать его такой сложности, чтобы ему, например, оставалось только обучиться. Но сколько-нибудь результативная эволюция невозможна для искусственных систем, так они работают по другим принципам, а сделать ИИ сразу таким сложным, чтобы оставалось только обучиться, невозможен на практике - см. далее.
Опять же - чем это погружение в "свой" мир принципиально отличается от погружения в игру го? Я согласен, что человек к абстракциям адаптирован хуже, чем к своей привычной среде - но это не значит, что "любой мыслимый сейчас ИИ" плохо адаптирован к привычной среде человека. Во всяком случае это недоказуемо. А если и доказуемо, то не на уровне ваших аргументов о необходимости "вместить явление в свой опыт, посмотреть со стороны". ...
Человеку его мир конечно привычнее абстрактного мира го, шахмат, математики и т.д. - а ИИ какая разница, в принципе? Что принципиально мешает ему освоить закономерности нашего мира (в области математики, физики, химии, биологии, истории, социологии, экономики и т.д.) подобно тому, как он освоил закономерности го?
Устройство определяет как возможности системы, так и их границы, то есть любая система специализированна. Мозг человека, естественно, тоже. Поэтому несравнимо более простая система может его за границами специализации обойти. Это в целом мы наблюдаем в случае игры в го.
Что касается биологии или других естественных наук (и даже математики, хотя и в меньшей степени), то правила го не меняются, поэтому мы можем постоянно улучшать систему, точно понимая, что нам от неё нужно, "в какую сторону" её нужно улучшать, чего от неё добиваться. В науке мы, наоборот, эти правила ищем, поэтому "куда улучшать" заранее неизвестно. При этом мы должны постоянно обучаться новым знаниям, общаться, обсуждать идеи. В результате без здравого смысла будет то, что написано выше. Но вот диагнозы ставить - это ИИ может. Только врач их должен проверять, насколько это возможно. Это для ИИ как игра в го.
Простите, но никаких убедительных аргументов о невозможности создания сильного ИИ я не увидел. Если я правильно понял, ваш основной тезис это "Чтобы понять явление, его надо вместить в свой опыт. То есть, как говорится, посмотреть со стороны". Я по-прежнему не понимаю чем личный опыт лучше книжного.
Создание сильного ИИ - это создание системы, равной себе сложности. Оценить работу такой системы будет всё сложнее по мере приближения её сложности к сложности нашего собственного интеллекта. Дело в том, что сложность поведения равна сложности мышления, поэтому точно оценить поведение системы равной себе сложности - это вместить в свой опыт весь опыт другого человека. Естественно, что это невозможно, поэтому оценка может быть только сильно неточной и приближаться к полностью неопределённой по мере того, как ИИ становится всё сложнее. Как следствие, на некотором уровне сложности дальнейшее развитие ИИ остановится.
можно ли в рамках LLM извлекать из текстовой модели любую закономерность реальности, описанной этой текстовой моделью?
Описание не может быть полным - иначе это уже не описание, а сама реальность. Следовательно, у вас может быть только упрощённое описание реальности, и речь потому уже не идёт о "любой закономерности реальности". К тому же упрощённое - это и в той или иной степени реальной реальности неадекватное. В итоге всё то же самое, что с обучением на текстах выше.
