Еще раз про сильный ИИ

[talash]

mihaild в сообщении #1571126 писал(а):

Dicson, в такой постановке ваш прогноз "сильный ИИ невозможен" неверифицируем, и, соответственно, неинтересен. Разве что когда всех будут разбирать на скрепки утешиться тем, что "зато он не умеет вырабатывать алгоритмы, как человек".

Я занимался сильным ИИ, вот тут. Ниже не строгое определение, а для понимания в чём разница. Но можно и над фальсифицируемыми критериями подумать.

Цитата:

Как распознать AGI?
Сообщение talash » 27 дек 2020, 18:07

Общий искусственный интеллект или AGI(artificial general intelligence) это гипотетический интеллект, который сможет выполнять интеллектуальные задачи, как это умеет делать человек. Насколько человечество продвинулось в создании AGI на данный момент?

Интеллект людей и животных способен адаптироваться к изменяющимся условиям. Оказывается, никакие современные разработки в области AI не обладают данным свойством. Если перед игрой в го изменить форму доски, то человек сможет нормально играть, а AlphaGo - нет. Его нужно переобучать заново. В то же время у животных, чем более оно высокоорганизовано, тем большими адаптационными способностями обладает.

Отсюда мы можем заключить, что развитие машинного обучения (ML - machine learning) это не путь к AGI. Путь к AGI это создание существ, способных к интеллектуальной адаптации. Это могут быть кибернетические животные, существующие в компьютерных мирах. Задача человека разработать автономную нервную систему, способную к самообучению и адаптации под влиянием окружающей среды. Нужно идти от простого к сложному. Сначала простые миры и простые одиночные кибернетические животные, умеющие самообучаться рациональным движениям и поиску пищи. Затем рукотворное усложнение косного мира и усложнение тел животных. Параллельно введение конкуренции животных и постепенный отказ от вмешательства людей в процесс эволюции (кроме добавления новых видов животных), так как роль усложняющейся среды будут выполнять сами кибернетические животные за счёт наработки опыта.

На этом пути может быть создано множество новых технологий и открытий, для которых найдётся различное практическое применение в реальном мире. Это могут быть, например, компьютерные игры. Или технологии компьютерного зрения для распознавания любых объектов после минимального обучения, как это может делать человек. Также различные научные открытия в плане понимания принципов работы нервной системы животных. И т.д.

[ozheredov]

talash

Очень рад видеть!
Внимательно следил за развитием Вашего проекта. В каком он состоянии сейчас? Где можно за ним следить -- кажется я потерял все ориентиры (

[Rasool]

Так вроде бы в области AGI сейчас затык в исследовании функционирования высшей коры головного мозга человека? Нынешние успехи ИИ (AlphaGo и др.), если не ошибаюсь, базируются на результатах исследования зрительной коры плюс возросшая вычислительная мощность компьютеров.

[talash]

ozheredov в сообщении #1571755 писал(а):

talash

Очень рад видеть!
Внимательно следил за развитием Вашего проекта. В каком он состоянии сейчас? Где можно за ним следить -- кажется я потерял все ориентиры (

Привет! Взаимно) Отписал в теме post1571812.html#p1571812

[Rasool]

Rasool в сообщении #1571768 писал(а):

Так вроде бы в области AGI сейчас затык в исследовании функционирования высшей коры головного мозга человека? Нынешние успехи ИИ (AlphaGo и др.), если не ошибаюсь, базируются на результатах исследования зрительной коры плюс возросшая вычислительная мощность компьютеров.

Итак, сейчас слово за нейрофизиологами в изучении работы большой коры полушарий головного мозга человека? Без них дальнейшее продвижение в создании сильного ИИ невозможно.

[Ideya]

В будущем, полагаю, основная функция объединённой системы всех агрегаторов в единый (т.н. СИИ), это будет посредничество (заменяющее все существующие) между людьми во взаимных их вложениях плодов своего труда друг в друга по наиболее близким потребностям и созданиям благ, как образ жизни. Ещё можно сказать - автономный регулятор жизни на Земле, подобно автопилота, фактически проявляемый накопленный опыт нашего разума. Определение вектора общего развития будет прерогатива уже всего человечества, равновесно распределяемая между всеми людьми, а не решаться избранными во власти и конкуренции за превосходство немногих.

[mihaild]

talash в сообщении #1571753 писал(а):

Оказывается, никакие современные разработки в области AI не обладают данным свойством. Если перед игрой в го изменить форму доски, то человек сможет нормально играть, а AlphaGo - нет. Его нужно переобучать заново. В то же время у животных, чем более оно высокоорганизовано, тем большими адаптационными способностями обладает.

Тут два момента.
Во-первых, сейчас эффективные модели узкоспециализированы. AlphaGo просто физически не может играть на доске другой формы. Хотя и есть модели, которые обучались играть сразу в кучу игр с единым интерфейсом, и успешно с этим справлялись. С другой стороны, даже GPT-3 умеет как-то пытаться играть в шахматы, и как правило генерирует согласующиеся с правилами ходы.

talash в сообщении #1571753 писал(а):

Отсюда мы можем заключить, что развитие машинного обучения (ML - machine learning) это не путь к AGI.

Reinforcement learning вы к ML не относите?

Rasool в сообщении #1571768 писал(а):

Нынешние успехи ИИ (AlphaGo и др.), если не ошибаюсь, базируются на результатах исследования зрительной коры плюс возросшая вычислительная мощность компьютеров.

Ошибаетесь. Конкретно AlphaGo да, использует сверточные сети, которые были вдохновлены зрительной корой, но там много чего еще. Текстовые модели, насколько я знаю, никаких пришедших из биологии идей (ну кроме самого понятия нейрона) не используют.
И про мощность это не совсем так. Она, конечно, очень важна - позволяет как обучать модели, которые 15 лет назад обучить было бы невозможно, так и просто проводить кучу экспериментов. Но сейчас есть модели, которые можно легко обучать и запускать на железе пятнадцатилетней давности, и которые дают качество в разы выше чем всё, что существовало тогда.

Rasool в сообщении #1571852 писал(а):

Итак, сейчас слово за нейрофизиологами в изучении работы большой коры полушарий головного мозга человека? Без них дальнейшее продвижение в создании сильного ИИ невозможно.

Поскольку никто в точности не знает, как сделать ИИ, то ответ на ваш вопрос тоже никто не знает:) Лично мне, глядя на успешность текстовых моделей, которые по сути просто статистически решают задачу word prediction, по сравнению с попытками как-то воспроизвести человеческое мышление, кажется, что путь к успеху через совершенствование методов обучения, а не изучение мозга человека. Если бы я считал иначе, то наверное надо было бы идти в нейрофизиологи:) Но может и биологи внезапно что-то интересное обнаружат.
(а вот в то, что что-то интересное обнаружат физики, я не верю)

[Ideya]

mihaild в сообщении #1571861 писал(а):

Поскольку никто в точности не знает, как сделать ИИ

Любой алгоритм ИИ, это вид обработки объединённой базы данных с предоставлением информации из неё по запросу, в которой отражена вся наша деятельность в интернете и вообще в IT-сфере. Отсюда, поставил бы вопрос иначе: в какой вид, индивидуально для каждого человека, согласованно со всеми в равновесии интересов, желательно бы преобразовывать из всего накопленного, а отсюда исходит и алгоритм-преобразователь. Выходит, всё упирается в общечеловеческую цель жизни, как мотив для преобразования информации из БД.
Для упрощения понимания, если в релевантность выдачи информации ничего не подмешивать и не фильтровать искусственно айтишниками, то алгоритм-ИИ, как сущность разумной деятельности человечества в интернете, свободно будет формироваться "сам", уже вытекая из наиболее жизненно целесообразных мотивов поведения людей и распространяться на всех. То есть, сделать его самопроизвольно общенародно формирующимся, и получится естественный, общечеловеческий глобальный интеллект, а не создаваемый немногими. Задача последних, лишь в обеспечении этой возможности.

По примеру Альфа Го, на сколько понял, лучшие ходы в игре с чемпионом мира выбирались из уже сыгранных партий, включая простых пользователей интернет сервисов данной игры. По тому же принципу формируется и сам алгоритм СИИ, как составного из лучших комбинационных кусочков пазла в едино согласованные, образуя общечеловеческий разум.

[mihaild]

Ideya в сообщении #1571871 писал(а):

По примеру Альфа Го, на сколько понял, лучшие ходы в игре с чемпионом мира выбирались из уже сыгранных партий, включая простых пользователей интернет сервисов данной игры.

Неправильно поняли.
Собственно это даже не очень понятно, что значит. Если "ход" - это просто позиция, куда ставить камень, то вариантов ходов всего 361, и, естественно, каждый из них повторялся много раз. Если "ход" - это действие в конкретной ситуации, то большая часть ситуаций, возникавших во время игры, никогда раньше не возникали.
Кроме того, после AlphaGo появилась AlphaZero, которая играет сильнее, устроена проще, и при обучении не требует примеров игр вообще.

[Ideya]

mihaild в сообщении #1571875 писал(а):

AlphaZero, которая играет сильнее, устроена проще, и при обучении не требует примеров игр вообще.

Сама с собой играет, и на основе своих тогда партий делает более совершенные хода, отсортировывая и удаляя по ходу менее удачные, а сохраняя каждый раз всё лучшие и лучшие, создавая эталонную базу партий? Или же алгоритмом самопроизвольно в игре самим с собой выявляются только закономерности во взаиморасположении камней и наилучшего оптимального хода, и тогда AlphaZero опирается не на сыгранные и сохранённые партии, а на некую образовавшуюся в итоге формулу взаимозависимостей, неочевидных для человека?

[mihaild]

Я думаю, что если вам интересно, как работает AlphaZero, то лучше не слушать мой пересказ, а прочитать оригинальную статью https://www.deepmind.com/publications/m ... -knowledge

[Ideya]

mihaild, то есть AlphaZero экстраполирует (предсказывает) индивидуальные особенности ходов игрока и делает встречный ход, в котором игрок наиболее слаб, возможно так?! В статье не раскрывается суть "табула раса" алгоритма, превосходящего человека. На какие конкретные данные он опирается, чтобы выиграть.

-- 29.11.2022, 16:40 --

Если так рассуждать, что "опирается на всё, что под рукой", то достаточно создать лишь иллюзию у большинства, что некая типа программа выиграла у всех в сухую для привлечения всеобщего внимания с определённой целью организаторов данного шарлатанского развода.

[mihaild]

Ideya в сообщении #1571888 писал(а):

В статье не раскрывается суть "табула раса" алгоритма, превосходящего человека.

Не знаю, что такое "суть", но в статье, конечно же, алгоритм описан.

Цитата:

Our new method uses a deep neural network $f_\theta$ with parameters $\theta$. This neural network takes as an input the raw board representation $s$ of the position and its history, and outputs both move probabilities and a value, $(p, v) = f_\theta(s)$. The vector of move probabilities $p$ represents the probability of selecting each move $a$ (including pass), $p_a = Pr(a| s)$. The value $v$ is a scalar evaluation, estimating the probability of the current player winning from position $s$. ...
The neural network in AlphaGo Zero is trained from games of selfplay by a novel reinforcement learning algorithm. In each position s, an MCTS search is executed, guided by the neural network $f_\theta$. The MCTS search outputs probabilities $\pi$ of playing each move.

-- 29.11.2022, 14:44 --

Ideya в сообщении #1571888 писал(а):

Если так рассуждать, что "опирается на всё, что под рукой", то достаточно создать лишь иллюзию у большинства, что некая типа программа выиграла у всех в сухую для привлечения всеобщего внимания с определённой целью организаторов данного шарлатанского развода.

Т.е. вы обвиняете авторов статьи в том, что они подделали результаты, я правильно понимаю?

[Ideya]

mihaild в сообщении #1571890 писал(а):

Т.е. вы обвиняете авторов статьи в том, что они подделали результаты, я правильно понимаю?

Ни в коем случае уже никого не обвиняю. Но что любопытно, после нашумевшей новости о победе Альфа Го у чемпиона Ли Седоль, у нас в продаже вдруг появилась эта игра, с чего-то вдруг. Возможно ещё какие плюшки преследовались. Просто предполагаю, как один из простейших вариантов "выигрыша" с выгодными финансово и/или ещё какими последствиями для организаторов сего рекламного действа. Всё далеко не так очевидно, как предстаёт для большинства, просто чаще бывает.
Достаточно манипулировать видением масс.

[DARIUS]

Все таки хочу заметить,что Ли Седолю удалось выиграть одну партию(за что он заслуживает памятник при жизни),поэтому говорить что AlphaGo явлеятся богом игры нельзя.Между проигрышем Гарри Каспарова в матче с DeepBlue,в котором он также несколько раз обыграл программу и тотальным доминированием движков прошло около десяти лет.