Еще раз про сильный ИИ

[ozheredov]

Dicson в сообщении #1571975 писал(а):

То есть фактически речь идёт о невозможности только сильного ИИ.

В каком месте Ваших рассуждений заложена эта граница?

Допустим, вы говорите:

"Этот легкомотрный самолет НЕ долетит до Франции".

Я говорю: "Вчера в соседнюю деревню летал, так что долетит".

Вы выкатываете аргументы: "Бак самолета на 200 литров, на км полета тратится 1 литр, поэтому предел примерно 200 км, но никак не 3000".

Насколько я понял, Ваши аргументы из 5-страничного трактата вполне применимы к алгоритмам распознавания светофоров и игры в Го. Поэтому аргументы должны давать вердикт, что такие алгоритмы невозможны, что ведет к противоречию. В чем я не прав?

[Dicson]

ozheredov в сообщении #1571977 писал(а):

В каком месте Ваших рассуждений заложена эта граница?

Изначально речь об этом. См. четвёртый абзац первого поста. Первая же фраза:

Dicson в сообщении #1571961 писал(а):

Но очевидно, что наши нынешние знания — это далеко не все потенциально возможные знания. Однако создать мы должны нейронную сеть, которая потенциально может знать всё, что потенциально можем знать мы.

И далее. Не буду его цитировать целиком, чтобы из контекста не выдирать.

[ozheredov]

Dicson в сообщении #1571978 писал(а):

Но очевидно, что наши нынешние знания — это далеко не все потенциально возможные знания. Однако создать мы должны нейронную сеть, которая потенциально может знать всё, что потенциально можем знать мы.

Очевидно, что что наши нынешние <фотографии кошек и собак> — это далеко не все потенциально возможные <фотографии кошек и собак>.

Очевидно, что что наши нынешние <базы сыгранных партий в шахматы/го> — это далеко не все потенциально возможные <базы сыгранных партий в шахматы/го>.

Очевидно, что что наши нынешние <корпуса текстов на естественном языке> — это далеко не все потенциально возможные <корпуса текстов на естественном языке>.

Отсюда следует, что алгоритмы распознавания животных по фотографии, игры в шахматы и определения тональности сообщений невозможны. Так?

Получается, Ваша аргументация противоречит самой себе, потому что вполне себе одинаково хорошо применима и в случае, когда объект возможен, и в случае, когда объект невозможен.

[Dicson]

ozheredov в сообщении #1571979 писал(а):

Очевидно, что что наши нынешние <фотографии кошек и собак> — это далеко не все потенциально возможные <фотографии кошек и собак>. ...

Отсюда следует, что алгоритмы распознавания животных по фотографии, игры в шахматы и определения тональности сообщений невозможны. Так?

Не все, естественно. И что из этого следует? Вот мы научили сеть распознавать кошек и собак. Она их очень много может распознать, мы даже не знаем, сколько. Может, и мы столько не распознаем, сколько она. Но мы-то распознаём не только их. Речь-то идёт не только о всех возможных фотографиях кошек и собак, а о всех потенциально возможных знаниях вообще - всех мыслимых фотографиях вообще, условно говоря, а не только кошек и собак. Только приближение к этому уровню знаний есть ограничение для создаваемого нами ИИ.

[ozheredov]

Dicson

Я Вам показал противоречие в Ваших аргументах. Применение Ваших аргументов к заранее известным ситуациям показывает, что из Ваших аргументов следует совсем не то, что наблюдается в реальности. Как если бы математические формулы содержали утверждение о том, что 2×2=2563.

Dicson в сообщении #1571980 писал(а):

Речь-то идёт не только о всех возможных фотографиях кошек и собак, а о всех потенциально возможных знаниях вообще - всех мыслимых фотографиях вообще, условно говоря, а не только кошек и собак. Только приближение к этому уровню знаний есть ограничение для создаваемого нами ИИ.

Откуда это следует? Из вашей 5-страничной аргументации, которой противоречит существование давно известных алгоритмов слабого ИИ? И да -- природа, создавшая человека с его сильным ИИ примерно 100000 лет назад, не имела в своем распоряжении всех мыслимых фотографий вообще.

[Dicson]

ozheredov в сообщении #1571981 писал(а):

Я Вам показал противоречие в Ваших аргументах.

Не показали. Нам просто не нужны все кошки и собаки. Мы обучили сеть, она их распознаёт, нас устраивает и достаточно. По мере приближения к сложности интеллекта человека определить то, что мы сеть уже достаточно обучили и чему мы её обучили, будет всё сложнее. В этом проблема. Вы просто не поняли, в чём суть моих аргументов.

В этом смысле вы можете ещё такой "опровергающий" меня вариант предложить. Пусть мы создадим сеть, которая будет равна интеллекту человека, но будет специализироваться только на распознавании кошек и собак. Таким образом, система, равная сложности интеллекта человека будет создана, я опровергнут. Только такая сеть невозможна.

Очевидно, что она будет распознавать кошек и собак намного лучше человека. У неё же весь интеллект ушёл… в этот свисток. Но тогда мы ей просто примеров для обучения не найдём. Мы же можем дать ей только то, что сами распознаем. В итоге по мере приближения к сложности интеллекта человека усложнять такую сеть будет всё более проблематично. То есть тот же описанный у меня рост неопределённости, те же проблемы отбора и конец усложнению задолго до приближения к сложности интеллекта человека.

[ozheredov]

___________________

Смотрите, как устроена Ваша аргументация.

1. ИИ должен пережёвывать гору информации.
2. У нас есть маленькая кучка информации.
3. Следовательно, ИИ невозможен, ибо из 1 кирпича не построить коттеджа.

На что ozheredov возражает, что УЖЕ существует прецедент, когда алгоритм, обучившись на одной песчинке информации, научился пережевывать кучку. Вы, конечно можете прицепиться к тому, что тут КУЧКА, а там ГОРА, но алгоритмы обработки информации прекрасно масштабируются (этот факт достоверно установлен), и Ваша последняя зацепка уничтожена. Я понятно излагаю?

-- 30.11.2022, 03:15 --

Dicson в сообщении #1571982 писал(а):

По мере приближения к сложности интеллекта человека определить то, что мы сеть уже достаточно обучили и чему мы её обучили, будет всё сложнее.

Я это Ваш тезис понял давным-давно. Вы считаете, что определить то, что мы сеть уже достаточно обучили распознавать кошек и собак, можно только лишь проверив ее работу на ВСЕХ ВОЗМОЖНЫХ вариантах фотографий кошек и собак?

-- 30.11.2022, 03:16 --

Dicson в сообщении #1571982 писал(а):

В этом смысле вы можете ещё такой "опровергающий" меня вариант предложить. Пусть мы создадим сеть, которая будет равна интеллекту человека, но будет специализироваться только на распознавании кошек и собак.

Нет, спасибо, такую чушь я предлагать не буду

-- 30.11.2022, 03:19 --

Dicson в сообщении #1571982 писал(а):

Мы же можем дать ей только то, что сами распознаем.

Не-а. Мы будем давать ей ФОТОГРАФИИ, которые сделаны В КОНТРОЛИРУЕМЫХ УСЛОВИЯХ, когда камера НАПРАВЛЕНА НА КОШКУ ИЛИ СОБАКУ. Может ли человек определить, что там получится -- не важно. Скорее всего, нас будут интересовать условия низкой освещенности и/или тумана, когда человек ошибается, а нейросеть -- нет.

[Dicson]

ozheredov в сообщении #1571983 писал(а):

1. ИИ должен пережёвывать гору информации.
2. У нас есть маленькая кучка информации.

При чём здесь информация (и остальные ваши "возражения"). Мы просто оценить работу этой сети не сможем. Она будет распознавать всех кошек и собак намного лучше нас. Только как мы это узнаем? Мы-то так не распознаём. Для нас "хорошо распознающий" вариант сети будет абсолютно не отличим от "очень хорошо распознающего". Тогда как её обучать, если мы не видим разницы? Поэтому и усложнять такую сеть станет невозможно, бессмысленно. Ведь её ещё нет, этой сети, не придумали.

ozheredov в сообщении #1571983 писал(а):

Я это Ваш тезис понял давным-давно. Вы считаете, что определить то, что мы сеть уже достаточно обучили распознавать кошек и собак, можно только лишь проверив ее работу на ВСЕХ ВОЗМОЖНЫХ вариантах фотографий кошек и собак?

Естественно, на всех-всех.

Вы, похоже, не помните, о чём речь парой постов выше шла. Да и само подозрение... впечатляет, мягко говоря.

[ozheredov]

Dicson в сообщении #1571986 писал(а):

Она будет распознавать всех кошек и собак намного лучше нас. Только как мы это узнаем?

Сделаем эксперимент. Поставим коробку и направим на нее камеру. В коробку будет вести две дверцы -- одна из вольера с кошками, другая из вольера с собаками. Генератор случайных чисел будет выбирать номер двери (и записывать его в секретный файл), так что в коробке случайно и с равными вероятностями будет появляться либо кошка, либо собака. При закрытии дверцы срабатывает камера. Все это будет происходить в условиях плохой освещенности и/или тумана. Результаты распознавания сравним с записанной последовательностью запускаемых в коробку животных и посмотрим, кто реже ошибается при распознавании.

Dicson в сообщении #1571986 писал(а):

Естественно, на всех-всех.

То есть, существующие алгоритмы распознавания образов НИКАК НЕ ПРОВЕРЯЮТСЯ, потому что по причине принципиальной недоступности "всех-всех" проверка невозможна?

Кстати, такой вопрос: Вы понимаете, что такое асимптотика? Это важно.

Если вдруг понимаете, то задумайтесь вот над чем: прверяем, мы значицца, алгоритм. 100 фотографий ему подсунули, 1000, и для каждого числа фотографий $m$ измеряем ошибку $E$. Так вот, начиная с достаточно больших $m$ ошибка практически не будет меняться, функция $E(m)$ выйдет на асимптоту (я понимаю, что там сходимость по вероятности, а не в обычном смысле -- не суть). Именно это обстоятельство обуславливает право на существование всяких статистических оценок и т.д.

[Dicson]

ozheredov в сообщении #1571987 писал(а):

Сделаем эксперимент. Поставим коробку и направим на нее камеру. В коробку будет вести две дверцы -- одна из вольера с кошками, другая из вольера с собаками. Генератор случайных чисел будет выбирать номер двери (и записывать его в секретный файл), так что в коробке случайно и с равными вероятностями будет появляться либо кошка, либо собака. При закрытии дверцы срабатывает камера. Все это будет происходить в условиях плохой освещенности и/или тумана. Результаты распознавания сравним с записанной последовательностью запускаемых в коробку животных и посмотрим, кто реже ошибается при распознавании.

Предположим, одна сеть хуже распознаёт, другая лучше. И? Что делаем дальше?

ozheredov в сообщении #1571987 писал(а):

То есть, существующие алгоритмы распознавания образов НИКАК НЕ ПРОВЕРЯЮТСЯ, потому что по причине принципиальной недоступности "всех-всех" проверка невозможна?

Логично. Значит, не проверяются.

Только, может, вам внимательнее прочитать, что в посте выше написано?

ozheredov в сообщении #1571987 писал(а):

Кстати, такой вопрос: Вы понимаете, что такое асимптотика? Это важно.

Я попробую разобраться, если что.

-- 30.11.2022, 04:13 --

ozheredov в сообщении #1571987 писал(а):

Если вдруг понимаете, то задумайтесь вот над чем: прверяем, мы значицца, алгоритм. 100 фотографий ему подсунули, 1000, и для каждого числа фотографий $m$ измеряем ошибку $E$. Так вот, начиная с достаточно больших $m$ ошибка практически не будет меняться, функция $E(m)$ выйдет на асимптоту (я понимаю, что там сходимость по вероятности, а не в обычном смысле -- не суть). Именно это обстоятельство обуславливает право на существование всяких статистических оценок и т.д.

Да это шутка была. По-другому вам, видимо, не объяснить. Вот только в лоб.

[ozheredov]

Dicson в сообщении #1571982 писал(а):

Не показали. Нам просто не нужны все кошки и собаки. Мы обучили сеть, она их распознаёт, нас устраивает и достаточно.

То есть я правильно понимаю:

- у нас есть лишь уверенность, что сеть корректно распознает те картинки, которые мы ей подсовывали для обучения/валидации?
- любая картинка, которая появится, скажем, завтра, запросто может быть распознана НЕПРАВИЛЬНО?

Dicson в сообщении #1571988 писал(а):

И? Что делаем дальше?

Включаем принтер, распечатываем 5 страниц аргументации, идем с ними в туалет и используем по назначению.

Это первый шаг.

Dicson в сообщении #1571988 писал(а):

Я попробую разобраться, если что.

Шаг второй. Заканчиваем читать тексты по фуфло-софии. Начинаем изучать матан и data science. Дальше надеюсь на Ваши личные навигационные способности )

Dicson в сообщении #1571988 писал(а):

Только, может, внимательнее прочитать, что в посте выше написано?

Основной Ваш тезис звучит так:

"Ни один наперед заданный объект не может быть классифицирован как ИИ, потому что имеющейся в распоряжении информации не хватит для того, чтобы проверить, действительно ли это ИИ, т.е. реально ли он может все, что может человек."

Я на этот раз внимательно прочитал?

[Dicson]

ozheredov в сообщении #1571989 писал(а):

Это первый шаг.

Если бы вы всё-таки ответили на вопрос:

Dicson в сообщении #1571988 писал(а):

И? Что делаем дальше?

...то увидели бы, что получается именно то, что я утверждал выше. Сети невозможно будет различить.

ozheredov в сообщении #1571989 писал(а):

"Ни один наперед заданный объект не может быть классифицирован как ИИ, потому что имеющейся в распоряжении информации не хватит для того, чтобы проверить, действительно ли это ИИ, т.е. реально ли он может все, что может человек."

У меня речь о сильном ИИ. Поэтому изменим ваше утверждение и подставим в него "сильный". Получится: "Ни один наперед заданный объект не может быть классифицирован как сильный ИИ, потому что имеющейся в распоряжении информации не хватит для того, чтобы проверить, действительно ли это сильный ИИ, т.е. реально ли он может все, что может человек."

Теперь ответ: Нет, неправильно, такая трактовка неверная. Речь идёт о принципиальной невозможности создания сильного ИИ самим человеком, а не об узнавании уже созданного.

Но факультативно можно попробовать ответить на ваш вопрос. Только вначале обрисуйте, что конкретно вы подразумеваете под сильным ИИ. "Все, что может человек" - понятие растяжимое.

ozheredov в сообщении #1571989 писал(а):

То есть я правильно понимаю:

- у нас есть лишь уверенность, что сеть корректно распознает те картинки, которые мы ей подсовывали для обучения/валидации?
- любая картинка, которая появится, скажем, завтра, запросто может быть распознана НЕПРАВИЛЬНО?

В том и суть, что полученный в обучении опыт сеть может потом обобщить на то, что раньше не видела. Но в целом да, что может запутать сеть, заранее неизвестно.

[ozheredov]

Dicson в сообщении #1571991 писал(а):

Нет, неправильно, такая трактовка неверная. Речь идёт о принципиальной невозможности создания сильного ИИ самим человеком, а не об узнавании уже созданного.

Dicson в сообщении #1571961 писал(а):

Другими словами, мы должны создать такую нейронную сеть, возможное богатство поведения которой равно возможному богатству поведения человека, при том, что оценить богатство поведения мы можем, только исходя из известного о нём сейчас — ни сложность, ни объём каковых знаний не равны максимально возможным.

Я что-то не так понял в данном предложении?

Dicson в сообщении #1571991 писал(а):

Только вначале обрисуйте, что конкретно вы подразумеваете под сильным ИИ.

ozheredov в сообщении #1571665 писал(а):

strongAI это такой робот, что ежели его подселить на год в одних аппартаментах со студентом 3-го курса Физтеха, средняя оценка которого не ниже 4, а через год сказать: "Ты в курсах, что весь этот год с тобой жил робот?", то студент покрутит пальцем у виска.

Поправка mihaild:

mihaild в сообщении #1571666 писал(а):

Предлагаю заменить жизнь в одной комнате на регулярное общение по видеосвязи.

Вы наверное хотели какое-нибудь фуфло-софское определение с квалиями и дефляционными теориями имманентной истины -- извините, что разочаровал.

Dicson в сообщении #1571991 писал(а):

В том и суть, что полученный в обучении опыт сеть может потом обобщить на то, что раньше не видела.

Именно. Сильный ИИ может взять ограниченное количество данных и обобщить результат обучения на все возможные ситуации. Люди могут сделать ограниченное число тестов, подождав, пока критерии схожести поведения (сильного) ИИ с поведением человека не выйдут на асимптотику. На этом этапе, мне кажется, несостоятельность Ваших аргуметов должна стать понятной даже воробышку.

[Dicson]

ozheredov в сообщении #1571992 писал(а):

Я что-то не так понял в данном предложении?

А что вы поняли? Сформулируйте противоречие явно, пожалуйста.

ozheredov в сообщении #1571992 писал(а):

это такой робот, что ежели его подселить на год в одних аппартаментах со студентом 3-го курса Физтеха, средняя оценка которого не ниже 4, а через год сказать: "Ты в курсах, что весь этот год с тобой жил робот?", то студент покрутит пальцем у виска.

ozheredov в сообщении #1571992 писал(а):

Вы наверное хотели какое-нибудь фуфло-софское определение с квалиями и дефляционными теориями имманентной истины -- извините, что разочаровал.

То, что студент чего-то не заметил, ещё не показатель сильности ИИ. Неясно, о чём они говорили, может, чисто трёп на физико-молодёжные темы. Этак кто-то Алису за человека принять может. Ну вот такая она. Со странностями. Так что вашего определения недостаточно. Дайте что-то более точное.

ozheredov в сообщении #1571992 писал(а):

Именно. Сильный ИИ может взять ограниченное количество данных и обобщить результат обучения на все возможные ситуации. Люди могут сделать ограниченное число тестов, подождав, пока критерии схожести поведения (сильного) ИИ с поведением человека не выйдут на асимптотику. На этом этапе, мне кажется, несостоятельность Ваших аргуметов должна стать понятной даже воробышку.

Может, конечно. Только отбирает ИИ человек. А он себя не знает.

[Mihaylo]

Dicson
В ваших рассуждениях глубочайшая ошибка, которая лишь сигнализирует о том, что вы незнакомы с машинным обучением (~нейронными сетями).

Нейронные сети обучаются не человеком, а входными данными (датасетами). Человек влияет на процесс обучения, и это влияние происходит через так называемые гиперпараметры. Это несколько чисел всего. Следовательно, непонятно, каким образом интеллект человека ограничивает возможности развития ИИ. Такого тормозящего механизма нет.

-- 30.11.2022, 08:31 --

Ну и отдельный разговор про сильный интеллект:

Сильного интеллекта в природе не существует, может существовать несозданный (пока еще) слабый интеллект, который реализует ожидания от него. А чтобы ожидания оправдывались, надо собирать входные данные для обучения (ака датасеты) - это основная сложность.

На данный момент машинное обучение работает так: ставится конкретная задача, собираются данные для обучения, подбираются гиперпараметры, обучается модель, и затем она эксплуатируется.

Нет такого механизма разработки: ставится неопределенная задача (формулируется не до конца или не формулируется вовсе), собираются хоть какие-то данные, гиперпараметры, модель, эксплуатация... Нет такого.