Еще раз про сильный ИИ

[Dicson]

mihaild в сообщении #1571440 писал(а):

Я подозреваю, что, чтобы так получилось, придется определить "правильность" решения через его принятие человеком. Потому что я затрудняюсь сказать, в каком еще смысле моё решение вчера лечь спать в 3 часа ночи было "правильным":)

А разве это не так? Кто-то ещё спускает нам правильные решения? )

Обратите внимание, у меня в посте написано про "аргументы" - различные обстоятельства, которые мы рассматриваем. В контексте нового обстоятельства (непосредственно наблюдаемого во внешнем мире или припомненного) прежнее решение может показаться "неправильным". Несмотря на то, что они оба "правильные".

mihaild в сообщении #1571440 писал(а):

Я не понимаю, что это значит. Это я и назвал "не знаю тезиса" (это отличается от "не знаю формулировки тезиса").

Что же непонятного? Например, почему "развитие ИИ потеряет смысл задолго до его приближения к сложности интеллекта человека", можно понять, только узнав аргументы или самому догадавшись. Никак иначе это невозможно.

Предположу, вы не понимаете, что такое сильный ИИ, чем он отличается от слабого. В этом контексте логично выглядит ваше опасение проспать его появление и быть неожиданно разобранным, имея другие планы на вечер, или ваше недоверие специалистам - видимо, полагая, что если нет точного критерия, то все их мнения - это гадание на кофейной гуще, и доверия ему нет. В свою очередь, опять же моё предположение, в основании вашего непонимания находится вопрос, как так может быть, что ИИ имеет нормальную речь, более или менее проходит все тесты, но при это не является сильным ни в коей мере.

Предположим, у нас есть продвинутая диалоговая система, виртуальная Алиса. Вы задаёте ей вопрос, кем она хотела бы быть. Она отвечает, что, мол, учёным. Или токарем, учителем, неважно. И?.. Алиса ждёт следующего вопроса. А на тот вопрос, почему бы ей не только хотеть, но и стать, она ответит, что она этого не умеет. Разумно? Разумно. Но человек в этой ситуации имеет ещё одну опцию — пойти и стать. Вот когда Алиса тоже такое сможет - сможет "жить" самостоятельно, столь же активно и целенаправленно, как человек, строя сложные далёкие стратегии движения к сложным целям и воплощая их в тактике, пусть и в виртуальной среде - вот тогда можно будет говорить о сильном ИИ. Но сколько-нибудь точно формализовать такое поведение в тестах нельзя (надо знать тактику и стратегию, которой ещё нет), а вот неформально заметить отсутствие такового поведения у ИИ, по-моему, несложно. В итоге пока такого поведения нет, то есть нет всего того богатого контекста потребностей и способностей, какой есть у человека, наша Алиса будет просто хорошим компилятором (лит.), способным на беседы и новые идеи, но очень ограниченно.

Виртуальная Алиса ещё может ответить, что она хотела бы быть самой собой. Но тогда и говорить не о чем. Хотя в этом случае она может оказаться несколько умнее, чем кажется. Но всё равно не сильным ИИ, так как без того, что написано выше, компилятором она быть всё равно не перестанет.

Поэтому ваши опасения сильно преувеличены. Отсутствие строгих критериев не означает отсутствие критериев. В конце концов если бы качественные аргументы не имели смысла, то и количественных бы не возникло - мы бы до них не дожили, ведь строгие формальные соображения возникли несколько позже соображений вообще. Потом важный нюанс в том, что речь всё-таки идёт о мнении специалистов, а оно требует большего пиетета, по-моему. И наконец из моих аргументов следует, что "развитие ИИ потеряет смысл задолго до его приближения к сложности интеллекта человека". Там это показано. Пусть не так строго, как в ТО показана невозможность достижения скорости света массивным телом, но тоже не голословно. В итоге у нас есть всё, что нужно - есть тезис, есть аргументы в его поддержку и есть способ на практике проверить соответствие тезиса реальности.

mihaild в сообщении #1571440 писал(а):

В любви признаются даже текущей версии:)

Может быть, эти люди что-то знают? Не хочу думать о них плохо.

mihaild в сообщении #1571440 писал(а):

Ну вот видите - и никакие аргументы не нужны, я считаю достаточно вероятным, что мнение специалистов таким и будет, пока не станет слишком поздно.

Заговор машин? )

Вообще, чтобы нажать на какую-нибудь красную кнопку, особый интеллект не нужен. Поэтому скрепками мы можем стать и без чьего-то аргументированного решения. И пренебрежение мнением специалистов может этот исход приблизить.

[mihaild]

Dicson в сообщении #1571454 писал(а):

В контексте нового обстоятельства (непосредственно наблюдаемого во внешнем мире или припомненного) прежнее решение может показаться "неправильным". Несмотря на то, что они оба "правильные".

Это выглядит нестандартным определением "правильного решения". И мне ваше определение кажется не очень полезным, потому что оно дублирует понятие "принятое решение", а нам теперь нужен новый термин, чтобы отличать решения, предсказуемо приведшие к нежелательным последствиям.

Dicson в сообщении #1571454 писал(а):

Например, почему "развитие ИИ потеряет смысл задолго до его приближения к сложности интеллекта человека", можно понять, только узнав аргументы или самому догадавшись.

Я пока не спрашиваю о причинах, я утверждение понять не могу.

Я там не очень хорошо сформулировал выше. Я не говорю, что мнение условных Дина или Ына неверно сейчас. Я ожидаю, что окно между "Джефф Дин признает, что создан сильный ИИ" и "всех разобрали на скрепки" будет очень маленьким.
Утверждение "Джефф Дин никогда не скажет, что создан сильный ИИ" вполне понятно. Но оно ИМХО гораздо больше про Джеффа Дина чем про ИИ:)

Dicson в сообщении #1571454 писал(а):

Но сколько-нибудь точно формализовать такое поведение в тестах нельзя (надо знать тактику и стратегию, которой ещё нет), а вот неформально заметить отсутствие такового поведения у ИИ, по-моему, несложно.

Текущие текстовые модели страдают кучей проблем, которые формализовать очень легко. Кстати, вот с задачей им. Legioner93 (написать сочинение по книге, которой не было в обучающем корпусе) - как вы думаете, ML когда-нибудь справится?

Dicson в сообщении #1571454 писал(а):

Заговор машин? )

Примерно как заговор людей против волков.

[Geen]

Dicson в сообщении #1571223 писал(а):

Однако из аргументов следует, что ИИ к сложности интеллекта человека приблизиться не сможет

А где были аргументы? А то я только голословные заявления видел.

-- 25.11.2022, 18:31 --

Legioner93 в сообщении #1571385 писал(а):

Прочитать новую художественную книгу и выдать сочинение на заданную тему

Я этот тест не пройду... отпишите меня от темы, пожалуйста

-- 25.11.2022, 18:38 --

Dicson в сообщении #1571408 писал(а):

То есть это как раз одно из проявлений нашего высокого интеллекта - умение тонко учитывать нюансы ситуации.

Давайте я Вам скину подборку с ютьюба разных ДТП, а Вы потом на этих конкретных примерах объясните про "умение тонко учитывать нюансы".

[ozheredov]

mihaild в сообщении #1571401 писал(а):

https://en.wikipedia.org/wiki/Instrumental_convergence

А, что-то такое я уже то ли слышал, то ли сам придумал ))) Интересная статья, спасибо большое.

Dicson в сообщении #1571408 писал(а):

Действительно, мы не можем измерить интеллект количественно точно и однозначно

А длину забора мы можем померить точно и однозначно? Вам знакомы понятия погрешность, разброс измерений и т.д.?

Dicson в сообщении #1571408 писал(а):

Но мы можем сделать это на основании "разных формальных и неформальных соображений"

Во-во-во, совершенно точно, АБСОЛЮТНО ВСЕ в мире так и измеряется(оценивается). С какой радости нельзя сделать то же самое в отношении алгоритмов ИИ?

Dicson в сообщении #1571408 писал(а):

Наши решения изменчивы не потому, что они случайны, а потому что в разных ситуациях разным факторам придаётся разный вес.

И этот подход, конечно же, ну никак не может быть реализован в hardware/software. А по какой причине, можно узнать?

Dicson в сообщении #1571408 писал(а):

Да, так - и всё учитывает

Это заведомо не так. Он не может учитывать все, потому что к моменту принятия решений на его рецепторы интегрально попало ограниченное количество информации, часть из которой была заранее искажена. Например, чел получает сигналы локально, из одной точки пространства, тогда как выбор стратегии поведения может потребовать знания того, что сейчас делает его жена на острове под названием Сказочное Бали.

Dicson в сообщении #1571408 писал(а):

и всегда принимает правильное решение. Только решение "правильное" не само по себе, а "в контексте опыта и конкретной ситуации"

А вот это уже манипуляция. Так можно сказать про любое решение: на охоте зашевелились кусты, я подумал -- там кабан, и случайно убил Васю. Но на момент выстрела я ЗНАЛ, что там не Вася, а кабан -- поэтому поступил правильно.

Dicson в сообщении #1571408 писал(а):

Суть этой особенности в том, что, во-первых, опыт в нейронной сети - это сама нейронная сеть, а во-вторых, любой конкретный опыт "размазан" сразу по всей сети, различие только в концентрации разного опыта в разных областях сети. В результате конкретная конфигурация сигналов рецепторов, по-своему меняя картину торможения/возбуждения нейронов в мозге, вызывает из всей сети некий определённый опыт (важны, конечно, не только сигналы рецепторов, но и предыдущее состояние сети, то есть предыдущее "направление мысли").

Как следствие, можно сказать, что в любой реакции представлен сразу весь опыт, но с разным весом. По-другому можно сказать, что в сети вообще нет никакого определённого опыта, а есть объём всего опыта сразу, и сигналы рецепторов вызывают из этого объёма некоторый конкретный опыт, какую-то конкретную реакцию.

Если Вы считаете, что вышенаписанное является ограничением для создания ИИ, вынужден Вас разочаровать -- все эти принципы давным-давно реализованы в самых примитивных искусственных нейросетях.

Dicson в сообщении #1571408 писал(а):

Наши решения изменчивы не потому, что они случайны, а потому что в разных ситуациях разным факторам придаётся разный вес.

Да-да-да-да-да-да-да, это все банальное 2х2=4, которое известно любому современному дошкольнику и которое абсолютно не препятствует созданию ИИ, поскольку с учетом этих принципов работают рекомендательные, прогностические, скоринговые и т.д. системы. Загуглите число весов современных нейросетей для распознавания автомобильных номеров, например.

Dicson в сообщении #1571408 писал(а):

Если там имеется в виду то, что, я думаю, там имеется в виду, то, надеюсь, вы ошибаетесь. Я не такой.

Нет, там имеется в виду другое. Ничего плохого я о Вас не думаю, расслабьтесь.

Dicson в сообщении #1571408 писал(а):

Дайте им вменяемую Алису, и посмотрим, как они ей в любви признаваться станут.

Если вменяемая Алиса будет уверена, что в любви ей признается высокоранговый мужик -- она сама себе все нарисует, в своем воображении (см. Ваши собственные абсолютно правильные рассуждения выше). Даже если он вместо любовных реплик даст Алисе под дых, она истолкует это как признание в любви. Обратное утверждение так же являестя верным. UPD: я про живую Алису, не заметил, что Вы про Яндекс-бота.

[Energos]

Dicson в сообщении #1571282 писал(а):

В создании ИИ проблема прежде всего не в скорости или объёме вычислений, а в неизвестности алгоритма.

Имея за плечами практически безграничную мощность, алгоритмы уже не так важны. Любая задача может быть решена, если на нее выделен бесконечный промежуток времени.
Дело как раз в мощности, поскольку даже самый хороший алгоритм способен увеличить вычисления, ну, возможно, в 100 раз - что для квантовых систем не играет никакой роли.

Dicson в сообщении #1571282 писал(а):

Не только существуют, но такие задачи мозг в основном и решает. И наоборот, то, что можно точно формализовать, лишь малая часть нашего опыта (и самая простая, так как обычно линейная).

Как раз-таки и нет. Большинство людей решают вполне повседневные задачи. "Встать", "Умыться", "Включить телевизор", "Открыть холодильник, достать пиво", "Приехать на работу", "Уехать с работы".
Абстрактными размышлениями занимаются в основном ученые и философы, где не всегда возможно точно обозначить проблему. Но ведь из ИИ сейчас строить "эйнштейнов" все равно никто не собирается.

Дальше еще интереснее:

Dicson в сообщении #1571282 писал(а):

Мозг находится в постоянной динамике. Это не равновесная система, которую можно остановить, разобрать и скопировать (да и точность копирования равновесных систем относительно менее важна). Поэтому пока вы будете копировать одну какую-то часть мозга, другая за это время изменится и станет неадекватна копии.

Технически, точная копия не так важна, поскольку на конечную работу это не повлияет. Мозг, даже с повреждениями, вполне себе неплохо функционирует. Поэтому ошибки при копировании имеют не такое большое значение на самом деле.
Не стоит наделять биологические системы некими "божественными" свойствами. Хотя сама по себе "квантовость" и прочие эффекты, присущие микромиру, сродни с чем-то подобным.

[ozheredov]

Energos в сообщении #1571489 писал(а):

Большинство людей решают вполне повседневные задачи. "Встать", "Умыться", "Включить телевизор", "Открыть холодильник, достать пиво", "Приехать на работу", "Уехать с работы".

Т.е. не существует сколь-нибудь значимого множества людей, которые не встают и не умываются? Не смотрят тв и не пьют пиво? Если ответ "Таки-нет, существует", тогда следующий вопрос: что порождает разнообразие решений?

[Dicson]

mihaild в сообщении #1571457 писал(а):

Это выглядит нестандартным определением "правильного решения". И мне ваше определение кажется не очень полезным, потому что оно дублирует понятие "принятое решение", а нам теперь нужен новый термин, чтобы отличать решения, предсказуемо приведшие к нежелательным последствиям.

Это ответ на пост ozheredov, а не определение чего-либо. Просто пришлось заглянуть в суть сутей. На этом уровне ещё нет смысла.

mihaild в сообщении #1571457 писал(а):

Я пока не спрашиваю о причинах, я утверждение понять не могу.

Я там не очень хорошо сформулировал выше. Я не говорю, что мнение условных Дина или Ына неверно сейчас. Я ожидаю, что окно между "Джефф Дин признает, что создан сильный ИИ" и "всех разобрали на скрепки" будет очень маленьким.
Утверждение "Джефф Дин никогда не скажет, что создан сильный ИИ" вполне понятно. Но оно ИМХО гораздо больше про Джеффа Дина чем про ИИ:)

Я вас именно так и понял. Вы считаете, что у нас всё есть (или будет в будущем) для того, чтобы появился сильный ИИ. Поэтому то, что он появится, - дело времени. Кто-то его сделает или он сам как-то сделается без нашей целенаправленной помощи, вопрос только в том, узнаем мы его или нет. Я же аргументирую точку зрения, что он вообще не появится, потому что это невозможно в принципе.

Есть определённая зависимость между приближением к сложности интеллекта человека и ростом трудностей в создании ИИ. Поэтому и невозможно. А что он не сделается сам, есть отдельные аргументы, но они нам сейчас не потребуются (начнём с малого). На практике рост сложности приведёт к тому, что усложнение ИИ будет всё больше терять смысл и остановится задолго до сколько-нибудь близко приближения к сложности интеллекта человека. Поэтому дело совсем не просто в "мнении Джефа Дина". То есть дело не в узнавании, а в констатации факта, который очевиден по множеству параметров. Включая представление об устройстве системы - может система с таким устройством быть сложнее интеллекта человека или нет. То есть очевидность того, что интеллект ещё не сильный, будет практически такая же, как сейчас, в отношении нынешних ИИ.

mihaild в сообщении #1571457 писал(а):

Текущие текстовые модели страдают кучей проблем, которые формализовать очень легко. Кстати, вот с задачей им. Legioner93 (написать сочинение по книге, которой не было в обучающем корпусе) - как вы думаете, ML когда-нибудь справится?

Не знаю, по-моему, это нетривиальная задача. ИИ не читают книги. ИИ может перевести книгу, последовательно, предложение за предложением. Но здесь "перевести" надо сразу всю книгу, ведь последовательно "читая" книгу и тут же полностью забывая прочитанное, сочинение не написать. Поэтому ИИ должен запомнить всю книгу и обобщить её в практически полностью новый и осмысленный текст. А так как я утверждаю, что ИИ значительно не усложнится, то нынешние проблемы, которые сейчас видятся только количественными (а эта задача пока выглядит именно так), вполне возможно, на самом деле окажутся качественными.

mihaild в сообщении #1571457 писал(а):

Примерно как заговор людей против волков.

Не верите вы в венец природы.

Geen в сообщении #1571469 писал(а):

А где были аргументы? А то я только голословные заявления видел.

До аргументов дело пока не дошло. Вы, видимо, тему невнимательно читали. Мы пока решаем, нужны ли они вообще. Есть разные мнения.

Geen в сообщении #1571469 писал(а):

Я этот тест не пройду... отпишите меня от темы, пожалуйста

Пройдёте. А вот ИИ не факт.

Geen в сообщении #1571469 писал(а):

Давайте я Вам скину подборку с ютьюба разных ДТП, а Вы потом на этих конкретных примерах объясните про "умение тонко учитывать нюансы".

Нюансы в контексте опыта учитываются. Там в посте написано.

ozheredov в сообщении #1571473 писал(а):

А длину забора мы можем померить точно и однозначно? Вам знакомы понятия погрешность, разброс измерений и т.д.?

Тоже невнимательно читали. Там в скобках написано, почему мозг сложнее оценить, по сравнению с другими явлениями.

ozheredov в сообщении #1571473 писал(а):

Во-во-во, совершенно точно, АБСОЛЮТНО ВСЕ в мире так и измеряется(оценивается). С какой радости нельзя сделать то же самое в отношении алгоритмов ИИ?

Задумайтесь, почему нейронные сети не создаются точно под задачу, а обучаются? Чего бы проще, есть задача, взяли подумали и написали нейронную сеть, как обычный детерминированный алгоритм.

ozheredov в сообщении #1571473 писал(а):

И этот подход, конечно же, ну никак не может быть реализован в hardware/software. А по какой причине, можно узнать?

Почему же, может. Вопрос лишь в уровне сложности этой реализации. Я уже вам отвечал на подобный вопрос. Роботы умеют всё и т. д..

ozheredov в сообщении #1571473 писал(а):

Это заведомо не так. Он не может учитывать все, потому что к моменту принятия решений на его рецепторы интегрально попало ограниченное количество информации, часть из которой была заранее искажена. Например, чел получает сигналы локально, из одной точки пространства, тогда как выбор стратегии поведения может потребовать знания того, что сейчас делает его жена на острове под названием Сказочное Бали.

Весь опыт учитывается, речь об опыте.

ozheredov в сообщении #1571473 писал(а):

А вот это уже манипуляция. Так можно сказать про любое решение: на охоте зашевелились кусты, я подумал -- там кабан, и случайно убил Васю. Но на момент выстрела я ЗНАЛ, что там не Вася, а кабан -- поэтому поступил правильно.

Это не манипуляция, а ответ на ваш пост. И ответ правильный. Каков вопрос, таков ответ.

ozheredov в сообщении #1571473 писал(а):

Если Вы считаете, что вышенаписанное является ограничением для создания ИИ, вынужден Вас разочаровать -- все эти принципы давным-давно реализованы в самых примитивных искусственных нейросетях.

Нет, я так не считаю. И не понимаю, почему вы так подумали.

ozheredov в сообщении #1571473 писал(а):

Да-да-да-да-да-да-да, это все банальное 2х2=4, которое известно любому современному дошкольнику и которое абсолютно не препятствует созданию ИИ, поскольку с учетом этих принципов работают рекомендательные, прогностические, скоринговые и т.д. системы. Загуглите число весов современных нейросетей для распознавания автомобильных номеров, например.

Да, всё верно. Я уже выше ответил.

ozheredov в сообщении #1571473 писал(а):

Нет, там имеется в виду другое. Ничего плохого я о Вас не думаю, расслабьтесь.

Я, пожалуй, подожду расслабляться. "Да-да-да-да-да-да-да" покою не способствует.

ozheredov в сообщении #1571473 писал(а):

Если вменяемая Алиса будет уверена, что в любви ей признается высокоранговый мужик -- она сама себе все нарисует, в своем воображении (см. Ваши собственные абсолютно правильные рассуждения выше). Даже если он вместо любовных реплик даст Алисе под дых, она истолкует это как признание в любви. Обратное утверждение так же являестя верным. UPD: я про живую Алису, не заметил, что Вы про Яндекс-бота.

Абсолютное большинство "высокоранговых мужиков" умны, энергичны и хорошие стратеги, а лучшая стратегия - это уважение к людям. Другие долго в высоком ранге не задерживаются. И встречаются они обычно с тоже высокоранговыми подругами. С другими скучно, с их мелкими заботами. А высокоранговые подруги не привыкли и не потерпят. Поэтому "под дых" - это относительно больше в среде людей попроще бытует.

Energos в сообщении #1571489 писал(а):

Имея за плечами практически безграничную мощность, алгоритмы уже не так важны. Любая задача может быть решена, если на нее выделен бесконечный промежуток времени.
Дело как раз в мощности, поскольку даже самый хороший алгоритм способен увеличить вычисления, ну, возможно, в 100 раз - что для квантовых систем не играет никакой роли.

Нет алгоритма, нет и задачи. Чего считать будете? А насчёт того, что вечность всегда поможет, то за такое время много чего измениться может. Надоест, например, ИИ ваять.

Energos в сообщении #1571489 писал(а):

Как раз-таки и нет. Большинство людей решают вполне повседневные задачи. "Встать", "Умыться", "Включить телевизор", "Открыть холодильник, достать пиво", "Приехать на работу", "Уехать с работы".

Да, верно. Но задачи, которые не привлекают внимания, всё-таки в большей степени уже решённые, вы только исполняете ранее принятое решение. Я же имел в виду те случаи, когда возникает что-то неизвестное, новые обстоятельства.

Energos в сообщении #1571489 писал(а):

Абстрактными размышлениями занимаются в основном ученые и философы, где не всегда возможно точно обозначить проблему. Но ведь из ИИ сейчас строить "эйнштейнов" все равно никто не собирается.

А мы здесь не про "сейчас" говорим, а про "вообще".

Energos в сообщении #1571489 писал(а):

Технически, точная копия не так важна, поскольку на конечную работу это не повлияет. Мозг, даже с повреждениями, вполне себе неплохо функционирует. Поэтому ошибки при копировании имеют не такое большое значение на самом деле.

Вам стоит внимательнее прочитать мой ответ о возможности копирования. Дело в том, что необходимая глубина копирования недостижима.

[ozheredov]

Dicson в сообщении #1571514 писал(а):

Есть определённая зависимость между приближением к сложности интеллекта человека и ростом трудностей в создании ИИ.

При этом сложность интеллекта человека, по Вашим утверждениям, неизмерима, и "трудности в создании ИИ", я подозреваю -- тоже. Но зависимость есть, да.

Dicson в сообщении #1571514 писал(а):

Нюансы в контексте опыта учитываются. Там в посте написано.

То есть если, внезапно увидев выскочивший на встречку французской-парфюмерии-воз, мужик крутнул руль не туда и это привело к лобовому столкновению, то его решение было все-таки оптимальным. В каком смысле "оптимальным":

а) в решении был учтен весь опыт жизни мужика: не только опыт года занятий в автошколе, когда инструктор учил смотреть по сторонам и не тупить, но и давнишний опыт в обычной школе, которая как бы по дефолту учит тупить и смотреть в одну точку;
б) решение мужика самовыпилиться было оптимальным с точки зрения теории естественного отбора по Дарвину: мужик подсознательно проинспектировал свое ДНК и понял, что с эволюцией ему не по пути. ДТП в данном случае -- это лишь удачно подвернувшийся случай;
в) свой вариант.

Dicson в сообщении #1571514 писал(а):

Абсолютное большинство "высокоранговых мужиков" умны, энергичны и хорошие стратеги, а лучшая стратегия - это уважение к людям. Другие долго в высоком ранге не задерживаются. И встречаются они обычно с тоже высокоранговыми подругами. С другими скучно, с их мелкими заботами. А высокоранговые подруги не привыкли и не потерпят. Поэтому "под дых" - это относительно больше в среде людей попроще бытует.

Опа, еще одна сказочка в голове наряду с "венцом творенья", на это раз про умных и благородных альфа-самцов и их гордых подружанок. Спорить не буду -- не смею топтать Ваш уютный маня-мирок своими грязными калошами. Поехали дальше.

Dicson в сообщении #1571514 писал(а):

Задумайтесь, почему нейронные сети не создаются точно под задачу, а обучаются? Чего бы проще, есть задача, взяли подумали и написали нейронную сеть, как обычный детерминированный алгоритм.

Потому что задача минимизации целевой функции решается только итеративно, а написание детерминированного алгоритма предполагает получение ответа сразу. Я вот тут не очень понимаю -- Вы хотите доказать, что невозможно создать ИИ как детерминированный алгоритм, написанный "за один проход"? Тогда Вы ломитесь в открытую дверь, это всем очевидно. Вы хотите доказать, что невозможно создать ИИ как итеративно оптимизируемый алгоритм, но сами приводите в пример нейросети и т.д.? Тогда как это понимать?

[Energos]

Dicson в сообщении #1571514 писал(а):

Нет алгоритма, нет и задачи. Чего считать будете? А насчёт того, что вечность всегда поможет, то за такое время много чего измениться может. Надоест, например, ИИ ваять.

Немного неправильная причинно-следственная связь. Задача есть, а алгоритм - дело десятое. У многих задач нет четкого алгоритмического решения вообще, и, тем не менее, они решаемы.
Рано или поздно методом проб и ошибок можно преодолеть практически любую преграду.

Dicson в сообщении #1571514 писал(а):

Да, верно. Но задачи, которые не привлекают внимания, всё-таки в большей степени уже решённые, вы только исполняете ранее принятое решение. Я же имел в виду те случаи, когда возникает что-то неизвестное, новые обстоятельства.

Какие обстоятельства? Сломался автобус - придется до работы добираться на такси? Но это все довольно легко предусмотреть. Вы до сих пор не привели никакого значимого примера.

Dicson в сообщении #1571514 писал(а):

А мы здесь не про "сейчас" говорим, а про "вообще".

Мы вроде бы говорили о возможности достижения интеллекта обычных людей.
Только вот среднестатистический человек не решает никаких особо сложных задач.

[Rasool]

Раньше утверждали, что машина никогда не победит чемпиона мира по шахматам, потому что для игры в шахматы нужна душа. Сейчас же говорят про невозможность ИИ.

[mihaild]

Dicson в сообщении #1571514 писал(а):

Поэтому ИИ должен запомнить всю книгу и обобщить её в практически полностью новый и осмысленный текст

Сейчас тут наиболее перспективным выглядит развитие механизма attention, по которому модель сможет смотреть на всю книгу целиком. Но естественно пока задача не решена, это всё спекуляции.

Dicson в сообщении #1571514 писал(а):

А так как я утверждаю, что ИИ значительно не усложнится, то нынешние проблемы, которые сейчас видятся только количественными (а эта задача пока выглядит именно так), вполне возможно, на самом деле окажутся качественными.

Т.е. нашли задачу, с которой ИИ не справится, по вашему мнению, никогда?
Если через 10 лет эту задачу решат, то это изменит ваше мнение по поводу "возможности сильного ИИ"?
Считаете ли вы прогресс за последние 20 лет "значительным"?

Dicson в сообщении #1571514 писал(а):

Не верите вы в венец природы

Я, конечно же, не верю, что естественный отбор создал глобальный оптимум, или хотя бы близко к нему.

[ozheredov]

mihaild в сообщении #1571589 писал(а):

Т.е. нашли задачу, с которой ИИ не справится, по вашему мнению, никогда?
Если через 10 лет эту задачу решат, то это изменит ваше мнение по поводу "возможности сильного ИИ"?

Он сделал себе непробиваемую (с его т.зрения) защиту "Роботы могут фсё, но не в том объеме, что чилавек". Причем посчитать этот объем не представляется возможным из-за отсутствия формализма, но великие эксперты всегда знают, когда он достаточен, когда нет. Поэтому на первый вопрос он ответит "Шо вы, шо вы, конечно справится! Только Ваш алгоритм справится, как робот, а ИИ обязан справиться, как человек, поэтому мимо". Второй вопрос вообще не имеет смысла, потому что в отсутствии формальных кртериев Dicson всегда может сказать, что задача не решена, решена не в том объеме, решена не та задача и т.д. Как правило, у таких персонажей очень хорошо укрепленная позиция в споре и их чрезвычайно трудно победить.

[Dicson]

ozheredov в сообщении #1571562 писал(а):

При этом сложность интеллекта человека, по Вашим утверждениям, неизмерима, и "трудности в создании ИИ", я подозреваю -- тоже.

Количественно (то есть точно, однозначно) неизмерима, да. И не только по моим соображениям, а это очевидно. Мир дан нам в ощущениях. Слышали, наверное, такое выражение? Любой доступный нам мир - это мир субъективный, то есть мир нашего сознания. В котором мы по определённым критериям (независимость от воли субъекта) выделяем составляющую объективную, то есть составляющую внешнего мира. Поэтому мы можем понять мир только в той степени, в какой нам это позволит сложность нашего мозга. А значит, сложность нашего мозга равна всему, что только можно знать, то есть, другими словами, равна максимально сложному знанию. Но приближение к максимально сложному знанию бесконечно. Итог - выразить сложность мозга количественно невозможно. Более того, формальные знания только часть всего опыта, а так как именно они имеют отношение к точным оценкам, то даже сколько-нибудь близкое приближение к точной оценке ЕИ невозможно.

Естественно, что сильный ИИ должен иметь такую же бесконечную сложность, как и мозг. Поэтому и оценка сильного ИИ точно так же будет затруднена и становиться всё труднее по мере приближения к нему. Уточню на всякий случай, что бесконечная сложность не в смысле "ничего сложнее быть не может", а бесконечная в смысле "невыразимая никаким мыслимым языком".

Можно обратить внимание, сознание - квалиа - действительно невыразимо никаким мыслимым языком. На основании общности опыта мы можем только обозначить модальности квалиа и описать их отношения и трансформацию - образы, которые они формируют, или динамику изменений, но не то, что их "наполняет". Иными словами, элементы опыта, которые можно формализовать, есть только "гребень волны" невыразимого "океана" мышления.

ozheredov в сообщении #1571562 писал(а):

Но зависимость есть, да.

Верно, зависимость есть. Если обобщить некоторые обстоятельства, её несложно увидеть. Причём обстоятельства вполне прозаические, без всяких сознаний, языков, оценок сложности, подробностей устройства и вообще чего-либо нового или малопонятного. И противоречий с написанным выше нет, ведь я предлагаю качественные аргументы, а не количественные. Количественных по соображениям выше быть не может, а качественным существовать ничего не мешает. Точный предел развития ИИ такие аргументы не указывают, но и не точный тоже хорошо.

ozheredov в сообщении #1571562 писал(а):

То есть если, внезапно увидев выскочивший на встречку французской-парфюмерии-воз, мужик крутнул руль не туда и это привело к лобовому столкновению, то его решение было все-таки оптимальным. В каком смысле "оптимальным":

а) в решении был учтен весь опыт жизни мужика: не только опыт года занятий в автошколе, когда инструктор учил смотреть по сторонам и не тупить, но и давнишний опыт в обычной школе, которая как бы по дефолту учит тупить и смотреть в одну точку;
б) решение мужика самовыпилиться было оптимальным с точки зрения теории естественного отбора по Дарвину: мужик подсознательно проинспектировал свое ДНК и понял, что с эволюцией ему не по пути. ДТП в данном случае -- это лишь удачно подвернувшийся случай;
в) свой вариант.

Вариант А. Тот опыт, который в мозге. Про "разный вес" опыта только не забудьте.

ozheredov в сообщении #1571562 писал(а):

Опа, еще одна сказочка в голове наряду с "венцом творенья", на это раз про умных и благородных альфа-самцов и их гордых подружанок. Спорить не буду -- не смею топтать Ваш уютный маня-мирок своими грязными калошами. Поехали дальше.

Причём здесь маня-мирок? Речь о простой целесообразности. У "высокоранговых мужиков" и круг общения соответствующий, там за каждым - деньги, люди, связи. Попробуйте, похамите. Докажите что-нибудь истерикой, риторикой или угрозами. Ум и привычка, что к ним относятся уважительно, пониманию вас способствовать не будут. Волей-неволей привыкнете держать себя в руках.

ozheredov в сообщении #1571562 писал(а):

Потому что задача минимизации целевой функции решается только итеративно, а написание детерминированного алгоритма предполагает получение ответа сразу.

Это-то понятно, но вопрос, с чем связано отличие? Мы же детерминированный алгоритм сразу готовым пишем, "подгонять" его под задачу обучением не требуется. Что мешает сделать то же в случае нейронной сети? Подскажу. У вас итерация - обучение то есть - получилась причиной того, почему мы не создаём нейронные сети точно под задачу. А на самом деле обучение следствие. Поэтому вопрос тот же. Почему мы не создаём нейронные сети точно под задачу? По какой причине?

ozheredov в сообщении #1571562 писал(а):

Я вот тут не очень понимаю -- Вы хотите доказать, что невозможно создать ИИ как детерминированный алгоритм, написанный "за один проход"? Тогда Вы ломитесь в открытую дверь, это всем очевидно. Вы хотите доказать, что невозможно создать ИИ как итеративно оптимизируемый алгоритм, но сами приводите в пример нейросети и т.д.? Тогда как это понимать?

Что я хочу доказать, написано ещё на первой странице. Там сформулировано точно. Но если не точно, а попонятнее, то я доказываю, что нейросеть или любой другой алгоритм не смогут даже приблизиться к сложности интеллекта человека. В целом причина этого будет в том, что, ввиду роста трудностей разного характера, усложнение алгоритмов потеряет всякий смысл задолго до приближения к сложности интеллекта человека. То есть я показываю связь одного с другим и почему эта связь такая.

Energos в сообщении #1571587 писал(а):

Немного неправильная причинно-следственная связь. Задача есть, а алгоритм - дело десятое. У многих задач нет четкого алгоритмического решения вообще, и, тем не менее, они решаемы.

Алгоритм - это путь к решению задачи. Поэтому если нет алгоритма, то сами понимаете что. Задачи создания сильного ИИ - это как раз та задача, которая алгоритма решения не имеет - ни "чёткого", ни "нечёткого". Более того, что такое сам сильный ИИ тоже непонятно. И что такое ЕИ непонятно. То есть неизвестно не только решение, но и сама задача.

Energos в сообщении #1571587 писал(а):

Рано или поздно методом проб и ошибок можно преодолеть практически любую преграду.

Преодолейте скорость света. Методом проб и ошибок. Хотя, скорее, это у вас метод ошибок и проб будет.

Energos в сообщении #1571587 писал(а):

Какие обстоятельства? Сломался автобус - придется до работы добираться на такси? Но это все довольно легко предусмотреть. Вы до сих пор не привели никакого значимого примера.
Мы вроде бы говорили о возможности достижения интеллекта обычных людей.
Только вот среднестатистический человек не решает никаких особо сложных задач.

Повнимательнее читайте. О чём изначально речь шла? Интеллект человека выполняет глобальную стратегию, увязывая в тактике множество обстоятельств. Это и такси, и вопрос "что съесть на завтрак". Никакой нынешний ИИ воспроизвести сложность этой работы не способен даже близко.

Rasool в сообщении #1571588 писал(а):

Раньше утверждали, что машина никогда не победит чемпиона мира по шахматам, потому что для игры в шахматы нужна душа. Сейчас же говорят про невозможность ИИ.

И по какой причине, говорят? Опять душа? Кто знает, конечно, но в этой теме мы попробуем без душ.

mihaild в сообщении #1571589 писал(а):

Сейчас тут наиболее перспективным выглядит развитие механизма attention, по которому модель сможет смотреть на всю книгу целиком. Но естественно пока задача не решена, это всё спекуляции.

Он давно уже развивается. Рекуррентные сети. Разовьётся ли настолько, чтобы книги исследовать и сочинения писать, действительно, пока неясно.

mihaild в сообщении #1571589 писал(а):

Т.е. нашли задачу, с которой ИИ не справится, по вашему мнению, никогда?
Если через 10 лет эту задачу решат, то это изменит ваше мнение по поводу "возможности сильного ИИ"?

Да, нашёл. Я уже о ней писал. Специалисты никогда не признают ИИ сильным. Эта задача - признание в среде специалистов сильным - ИИ не под силу. Все тесты придумывают, проводят и оценивают специалисты, им ли не знать, сильный ИИ или слабый. Например, если вы считаете, что ИИ может обмануть специалистов, то он и любой тест на "сильность" обманет. Если вы специалистам не доверяете, то вам и любому тесту не поверить ничего не помешает. Специалисты скажут, что не прошёл, вы скажете, что прошёл. Поэтому если вы этот критерий отвергаете, то сами становитесь на точку зрения, опровергнуть которую невозможно.

Так что, подходит критерий? Аргументы в студию?

mihaild в сообщении #1571589 писал(а):

Считаете ли вы прогресс за последние 20 лет "значительным"?

Если бы мне 20 лет назад сказали, что будет в электронике сейчас, я бы порадовался. Но не до восторга. Так что, средне, по-моему. Алисы ещё слишком невменяемые.

mihaild в сообщении #1571589 писал(а):

Я, конечно же, не верю, что естественный отбор создал глобальный оптимум, или хотя бы близко к нему.

В смысле, что мог бы быть кто-то вместо и лучше человека или будет в будущем? В это можно только верить. Прошлое забыто, будущее закрыто, настоящее даровано. И мы в нём венец.

ozheredov в сообщении #1571602 писал(а):

Как правило, у таких персонажей очень хорошо укрепленная позиция в споре и их чрезвычайно трудно победить.

"Очень хорошо укрепленная позиция в споре" - это хорошие аргументы и ничего другое.

ozheredov в сообщении #1571602 писал(а):

у таких персонажей

Здесь не борьба Добра со Злом идёт, к чему вам эти нервы.

[mihaild]

Dicson в сообщении #1571612 писал(а):

Он давно уже развивается. Рекуррентные сети.

Механизм attention как раз пришел на замену рекуррентным сетям - в том смысле, что сейчас именно attention - вариант по умолчанию для обработки последовательностей. Вы этого не знали, или почему-то не согласны?

Dicson в сообщении #1571612 писал(а):

Да, нашёл. Я уже о ней писал.

Вопрос был про задачу от Legioner93. И вы не ответили

mihaild в сообщении #1571589 писал(а):

Если через 10 лет эту задачу решат, то это изменит ваше мнение по поводу "возможности сильного ИИ"?

[Doctor Boom]

Dicson в сообщении #1571106 писал(а):

Общий смысл ограничений ИИ таков: чем полнее работу системы определяет созданный человеком алгоритм (то есть чем больше система искусственная), тем ниже будет её сложность по сравнению с интеллектом человека. Проще говоря, человек не сможет создать такую систему, которая бы выразила способность его мозга вырабатывать алгоритмы, поэтому интеллект человека всегда будет оставаться сильнее искусственного.

Вы отрицаете способность нейронных сетей к самообучению и самоусложнению? Нет никакого затыка в предположении, что человек может создать систему, которая может иметь свойство породить другую систему штрих, а та в свою очередь систему два штриха и т.д., т.е. развитие будет идти по экспоненте, в том числе качественное. Если такое невозможно, то как природа, не имея никакого разума, создала наш?

Dicson в сообщении #1571223 писал(а):

Мол, - говорят, - вон там в леске эксперимент поставьте. Пусть обезьяна с дерева слезет и топором каменным нам помашет. Тогда поверим". А им в ответ: "Предсказательная сила, предсказательная сила".

Им в ответ наверное отвечали не биологи, ибо с предсказательной силой там все плохо в силу специфики системы. И да, причем тут она в примере с обезьяной с топором?