2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1 ... 5, 6, 7, 8, 9, 10, 11 ... 18  След.
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 02:06 


10/03/16
17/03/24
3815
Aeroport
Dicson в сообщении #1571975 писал(а):
То есть фактически речь идёт о невозможности только сильного ИИ.


В каком месте Ваших рассуждений заложена эта граница?

Допустим, вы говорите:

"Этот легкомотрный самолет НЕ долетит до Франции".

Я говорю: "Вчера в соседнюю деревню летал, так что долетит".

Вы выкатываете аргументы: "Бак самолета на 200 литров, на км полета тратится 1 литр, поэтому предел примерно 200 км, но никак не 3000".

Насколько я понял, Ваши аргументы из 5-страничного трактата вполне применимы к алгоритмам распознавания светофоров и игры в Го. Поэтому аргументы должны давать вердикт, что такие алгоритмы невозможны, что ведет к противоречию. В чем я не прав?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 02:11 


05/12/14
157
ozheredov в сообщении #1571977 писал(а):
В каком месте Ваших рассуждений заложена эта граница?

Изначально речь об этом. См. четвёртый абзац первого поста. Первая же фраза:
Dicson в сообщении #1571961 писал(а):
Но очевидно, что наши нынешние знания — это далеко не все потенциально возможные знания. Однако создать мы должны нейронную сеть, которая потенциально может знать всё, что потенциально можем знать мы.

И далее. Не буду его цитировать целиком, чтобы из контекста не выдирать.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 02:20 


10/03/16
17/03/24
3815
Aeroport
Dicson в сообщении #1571978 писал(а):
Но очевидно, что наши нынешние знания — это далеко не все потенциально возможные знания. Однако создать мы должны нейронную сеть, которая потенциально может знать всё, что потенциально можем знать мы.


Очевидно, что что наши нынешние <фотографии кошек и собак> — это далеко не все потенциально возможные <фотографии кошек и собак>.

Очевидно, что что наши нынешние <базы сыгранных партий в шахматы/го> — это далеко не все потенциально возможные <базы сыгранных партий в шахматы/го>.

Очевидно, что что наши нынешние <корпуса текстов на естественном языке> — это далеко не все потенциально возможные <корпуса текстов на естественном языке>.

Отсюда следует, что алгоритмы распознавания животных по фотографии, игры в шахматы и определения тональности сообщений невозможны. Так?

Получается, Ваша аргументация противоречит самой себе, потому что вполне себе одинаково хорошо применима и в случае, когда объект возможен, и в случае, когда объект невозможен.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 02:38 


05/12/14
157
ozheredov в сообщении #1571979 писал(а):
Очевидно, что что наши нынешние <фотографии кошек и собак> — это далеко не все потенциально возможные <фотографии кошек и собак>. ...

Отсюда следует, что алгоритмы распознавания животных по фотографии, игры в шахматы и определения тональности сообщений невозможны. Так?

Не все, естественно. И что из этого следует? Вот мы научили сеть распознавать кошек и собак. Она их очень много может распознать, мы даже не знаем, сколько. Может, и мы столько не распознаем, сколько она. Но мы-то распознаём не только их. Речь-то идёт не только о всех возможных фотографиях кошек и собак, а о всех потенциально возможных знаниях вообще - всех мыслимых фотографиях вообще, условно говоря, а не только кошек и собак. Только приближение к этому уровню знаний есть ограничение для создаваемого нами ИИ.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 02:59 


10/03/16
17/03/24
3815
Aeroport
Dicson

Я Вам показал противоречие в Ваших аргументах. Применение Ваших аргументов к заранее известным ситуациям показывает, что из Ваших аргументов следует совсем не то, что наблюдается в реальности. Как если бы математические формулы содержали утверждение о том, что 2×2=2563.

Dicson в сообщении #1571980 писал(а):
Речь-то идёт не только о всех возможных фотографиях кошек и собак, а о всех потенциально возможных знаниях вообще - всех мыслимых фотографиях вообще, условно говоря, а не только кошек и собак. Только приближение к этому уровню знаний есть ограничение для создаваемого нами ИИ.


Откуда это следует? Из вашей 5-страничной аргументации, которой противоречит существование давно известных алгоритмов слабого ИИ? И да -- природа, создавшая человека с его сильным ИИ примерно 100000 лет назад, не имела в своем распоряжении всех мыслимых фотографий вообще.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 03:11 


05/12/14
157
ozheredov в сообщении #1571981 писал(а):
Я Вам показал противоречие в Ваших аргументах.

Не показали. Нам просто не нужны все кошки и собаки. Мы обучили сеть, она их распознаёт, нас устраивает и достаточно. По мере приближения к сложности интеллекта человека определить то, что мы сеть уже достаточно обучили и чему мы её обучили, будет всё сложнее. В этом проблема. Вы просто не поняли, в чём суть моих аргументов.

В этом смысле вы можете ещё такой "опровергающий" меня вариант предложить. Пусть мы создадим сеть, которая будет равна интеллекту человека, но будет специализироваться только на распознавании кошек и собак. Таким образом, система, равная сложности интеллекта человека будет создана, я опровергнут. Только такая сеть невозможна.

Очевидно, что она будет распознавать кошек и собак намного лучше человека. У неё же весь интеллект ушёл… в этот свисток. Но тогда мы ей просто примеров для обучения не найдём. Мы же можем дать ей только то, что сами распознаем. В итоге по мере приближения к сложности интеллекта человека усложнять такую сеть будет всё более проблематично. То есть тот же описанный у меня рост неопределённости, те же проблемы отбора и конец усложнению задолго до приближения к сложности интеллекта человека.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 03:13 


10/03/16
17/03/24
3815
Aeroport
___________________

Смотрите, как устроена Ваша аргументация.

1. ИИ должен пережёвывать гору информации.
2. У нас есть маленькая кучка информации.
3. Следовательно, ИИ невозможен, ибо из 1 кирпича не построить коттеджа.

На что ozheredov возражает, что УЖЕ существует прецедент, когда алгоритм, обучившись на одной песчинке информации, научился пережевывать кучку. Вы, конечно можете прицепиться к тому, что тут КУЧКА, а там ГОРА, но алгоритмы обработки информации прекрасно масштабируются (этот факт достоверно установлен), и Ваша последняя зацепка уничтожена. Я понятно излагаю?

-- 30.11.2022, 03:15 --

Dicson в сообщении #1571982 писал(а):
По мере приближения к сложности интеллекта человека определить то, что мы сеть уже достаточно обучили и чему мы её обучили, будет всё сложнее.


Я это Ваш тезис понял давным-давно. Вы считаете, что определить то, что мы сеть уже достаточно обучили распознавать кошек и собак, можно только лишь проверив ее работу на ВСЕХ ВОЗМОЖНЫХ вариантах фотографий кошек и собак?

-- 30.11.2022, 03:16 --

Dicson в сообщении #1571982 писал(а):
В этом смысле вы можете ещё такой "опровергающий" меня вариант предложить. Пусть мы создадим сеть, которая будет равна интеллекту человека, но будет специализироваться только на распознавании кошек и собак.


Нет, спасибо, такую чушь я предлагать не буду

-- 30.11.2022, 03:19 --

Dicson в сообщении #1571982 писал(а):
Мы же можем дать ей только то, что сами распознаем.


Не-а. Мы будем давать ей ФОТОГРАФИИ, которые сделаны В КОНТРОЛИРУЕМЫХ УСЛОВИЯХ, когда камера НАПРАВЛЕНА НА КОШКУ ИЛИ СОБАКУ. Может ли человек определить, что там получится -- не важно. Скорее всего, нас будут интересовать условия низкой освещенности и/или тумана, когда человек ошибается, а нейросеть -- нет.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 03:44 


05/12/14
157
ozheredov в сообщении #1571983 писал(а):
1. ИИ должен пережёвывать гору информации.
2. У нас есть маленькая кучка информации.

При чём здесь информация (и остальные ваши "возражения"). Мы просто оценить работу этой сети не сможем. Она будет распознавать всех кошек и собак намного лучше нас. Только как мы это узнаем? Мы-то так не распознаём. Для нас "хорошо распознающий" вариант сети будет абсолютно не отличим от "очень хорошо распознающего". Тогда как её обучать, если мы не видим разницы? Поэтому и усложнять такую сеть станет невозможно, бессмысленно. Ведь её ещё нет, этой сети, не придумали.

ozheredov в сообщении #1571983 писал(а):
Я это Ваш тезис понял давным-давно. Вы считаете, что определить то, что мы сеть уже достаточно обучили распознавать кошек и собак, можно только лишь проверив ее работу на ВСЕХ ВОЗМОЖНЫХ вариантах фотографий кошек и собак?

Естественно, на всех-всех.

Вы, похоже, не помните, о чём речь парой постов выше шла. Да и само подозрение... впечатляет, мягко говоря.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 03:56 


10/03/16
17/03/24
3815
Aeroport
Dicson в сообщении #1571986 писал(а):
Она будет распознавать всех кошек и собак намного лучше нас. Только как мы это узнаем?


Сделаем эксперимент. Поставим коробку и направим на нее камеру. В коробку будет вести две дверцы -- одна из вольера с кошками, другая из вольера с собаками. Генератор случайных чисел будет выбирать номер двери (и записывать его в секретный файл), так что в коробке случайно и с равными вероятностями будет появляться либо кошка, либо собака. При закрытии дверцы срабатывает камера. Все это будет происходить в условиях плохой освещенности и/или тумана. Результаты распознавания сравним с записанной последовательностью запускаемых в коробку животных и посмотрим, кто реже ошибается при распознавании.

Dicson в сообщении #1571986 писал(а):
Естественно, на всех-всех.


То есть, существующие алгоритмы распознавания образов НИКАК НЕ ПРОВЕРЯЮТСЯ, потому что по причине принципиальной недоступности "всех-всех" проверка невозможна?

Кстати, такой вопрос: Вы понимаете, что такое асимптотика? Это важно.

Если вдруг понимаете, то задумайтесь вот над чем: прверяем, мы значицца, алгоритм. 100 фотографий ему подсунули, 1000, и для каждого числа фотографий $m$ измеряем ошибку $E$. Так вот, начиная с достаточно больших $m$ ошибка практически не будет меняться, функция $E(m)$ выйдет на асимптоту (я понимаю, что там сходимость по вероятности, а не в обычном смысле -- не суть). Именно это обстоятельство обуславливает право на существование всяких статистических оценок и т.д.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 04:11 


05/12/14
157
ozheredov в сообщении #1571987 писал(а):
Сделаем эксперимент. Поставим коробку и направим на нее камеру. В коробку будет вести две дверцы -- одна из вольера с кошками, другая из вольера с собаками. Генератор случайных чисел будет выбирать номер двери (и записывать его в секретный файл), так что в коробке случайно и с равными вероятностями будет появляться либо кошка, либо собака. При закрытии дверцы срабатывает камера. Все это будет происходить в условиях плохой освещенности и/или тумана. Результаты распознавания сравним с записанной последовательностью запускаемых в коробку животных и посмотрим, кто реже ошибается при распознавании.

Предположим, одна сеть хуже распознаёт, другая лучше. И? Что делаем дальше?

ozheredov в сообщении #1571987 писал(а):
То есть, существующие алгоритмы распознавания образов НИКАК НЕ ПРОВЕРЯЮТСЯ, потому что по причине принципиальной недоступности "всех-всех" проверка невозможна?

Логично. Значит, не проверяются.

Только, может, вам внимательнее прочитать, что в посте выше написано?

ozheredov в сообщении #1571987 писал(а):
Кстати, такой вопрос: Вы понимаете, что такое асимптотика? Это важно.

Я попробую разобраться, если что.

-- 30.11.2022, 04:13 --

ozheredov в сообщении #1571987 писал(а):
Если вдруг понимаете, то задумайтесь вот над чем: прверяем, мы значицца, алгоритм. 100 фотографий ему подсунули, 1000, и для каждого числа фотографий $m$ измеряем ошибку $E$. Так вот, начиная с достаточно больших $m$ ошибка практически не будет меняться, функция $E(m)$ выйдет на асимптоту (я понимаю, что там сходимость по вероятности, а не в обычном смысле -- не суть). Именно это обстоятельство обуславливает право на существование всяких статистических оценок и т.д.

Да это шутка была. По-другому вам, видимо, не объяснить. Вот только в лоб.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 04:29 


10/03/16
17/03/24
3815
Aeroport
Dicson в сообщении #1571982 писал(а):
Не показали. Нам просто не нужны все кошки и собаки. Мы обучили сеть, она их распознаёт, нас устраивает и достаточно.


То есть я правильно понимаю:

- у нас есть лишь уверенность, что сеть корректно распознает те картинки, которые мы ей подсовывали для обучения/валидации?
- любая картинка, которая появится, скажем, завтра, запросто может быть распознана НЕПРАВИЛЬНО?


Dicson в сообщении #1571988 писал(а):
И? Что делаем дальше?


Включаем принтер, распечатываем 5 страниц аргументации, идем с ними в туалет и используем по назначению.

Это первый шаг.

Dicson в сообщении #1571988 писал(а):
Я попробую разобраться, если что.


Шаг второй. Заканчиваем читать тексты по фуфло-софии. Начинаем изучать матан и data science. Дальше надеюсь на Ваши личные навигационные способности )

Dicson в сообщении #1571988 писал(а):
Только, может, внимательнее прочитать, что в посте выше написано?


Основной Ваш тезис звучит так:

"Ни один наперед заданный объект не может быть классифицирован как ИИ, потому что имеющейся в распоряжении информации не хватит для того, чтобы проверить, действительно ли это ИИ, т.е. реально ли он может все, что может человек."

Я на этот раз внимательно прочитал?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 05:10 


05/12/14
157
ozheredov в сообщении #1571989 писал(а):
Это первый шаг.

Если бы вы всё-таки ответили на вопрос:
Dicson в сообщении #1571988 писал(а):
И? Что делаем дальше?

...то увидели бы, что получается именно то, что я утверждал выше. Сети невозможно будет различить.

ozheredov в сообщении #1571989 писал(а):
"Ни один наперед заданный объект не может быть классифицирован как ИИ, потому что имеющейся в распоряжении информации не хватит для того, чтобы проверить, действительно ли это ИИ, т.е. реально ли он может все, что может человек."

У меня речь о сильном ИИ. Поэтому изменим ваше утверждение и подставим в него "сильный". Получится: "Ни один наперед заданный объект не может быть классифицирован как сильный ИИ, потому что имеющейся в распоряжении информации не хватит для того, чтобы проверить, действительно ли это сильный ИИ, т.е. реально ли он может все, что может человек."

Теперь ответ: Нет, неправильно, такая трактовка неверная. Речь идёт о принципиальной невозможности создания сильного ИИ самим человеком, а не об узнавании уже созданного.

Но факультативно можно попробовать ответить на ваш вопрос. Только вначале обрисуйте, что конкретно вы подразумеваете под сильным ИИ. "Все, что может человек" - понятие растяжимое.

ozheredov в сообщении #1571989 писал(а):
То есть я правильно понимаю:

- у нас есть лишь уверенность, что сеть корректно распознает те картинки, которые мы ей подсовывали для обучения/валидации?
- любая картинка, которая появится, скажем, завтра, запросто может быть распознана НЕПРАВИЛЬНО?

В том и суть, что полученный в обучении опыт сеть может потом обобщить на то, что раньше не видела. Но в целом да, что может запутать сеть, заранее неизвестно.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 05:42 


10/03/16
17/03/24
3815
Aeroport
Dicson в сообщении #1571991 писал(а):
Нет, неправильно, такая трактовка неверная. Речь идёт о принципиальной невозможности создания сильного ИИ самим человеком, а не об узнавании уже созданного.


Dicson в сообщении #1571961 писал(а):
Другими словами, мы должны создать такую нейронную сеть, возможное богатство поведения которой равно возможному богатству поведения человека, при том, что оценить богатство поведения мы можем, только исходя из известного о нём сейчас — ни сложность, ни объём каковых знаний не равны максимально возможным.


Я что-то не так понял в данном предложении?

Dicson в сообщении #1571991 писал(а):
Только вначале обрисуйте, что конкретно вы подразумеваете под сильным ИИ.


ozheredov в сообщении #1571665 писал(а):
strongAI это такой робот, что ежели его подселить на год в одних аппартаментах со студентом 3-го курса Физтеха, средняя оценка которого не ниже 4, а через год сказать: "Ты в курсах, что весь этот год с тобой жил робот?", то студент покрутит пальцем у виска.


Поправка mihaild:

mihaild в сообщении #1571666 писал(а):
Предлагаю заменить жизнь в одной комнате на регулярное общение по видеосвязи.


Вы наверное хотели какое-нибудь фуфло-софское определение с квалиями и дефляционными теориями имманентной истины -- извините, что разочаровал.

Dicson в сообщении #1571991 писал(а):
В том и суть, что полученный в обучении опыт сеть может потом обобщить на то, что раньше не видела.


Именно. Сильный ИИ может взять ограниченное количество данных и обобщить результат обучения на все возможные ситуации. Люди могут сделать ограниченное число тестов, подождав, пока критерии схожести поведения (сильного) ИИ с поведением человека не выйдут на асимптотику. На этом этапе, мне кажется, несостоятельность Ваших аргуметов должна стать понятной даже воробышку.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 06:13 


05/12/14
157
ozheredov в сообщении #1571992 писал(а):
Я что-то не так понял в данном предложении?

А что вы поняли? Сформулируйте противоречие явно, пожалуйста.

ozheredov в сообщении #1571992 писал(а):
это такой робот, что ежели его подселить на год в одних аппартаментах со студентом 3-го курса Физтеха, средняя оценка которого не ниже 4, а через год сказать: "Ты в курсах, что весь этот год с тобой жил робот?", то студент покрутит пальцем у виска.
ozheredov в сообщении #1571992 писал(а):
Вы наверное хотели какое-нибудь фуфло-софское определение с квалиями и дефляционными теориями имманентной истины -- извините, что разочаровал.

То, что студент чего-то не заметил, ещё не показатель сильности ИИ. Неясно, о чём они говорили, может, чисто трёп на физико-молодёжные темы. Этак кто-то Алису за человека принять может. Ну вот такая она. Со странностями. Так что вашего определения недостаточно. Дайте что-то более точное.

ozheredov в сообщении #1571992 писал(а):
Именно. Сильный ИИ может взять ограниченное количество данных и обобщить результат обучения на все возможные ситуации. Люди могут сделать ограниченное число тестов, подождав, пока критерии схожести поведения (сильного) ИИ с поведением человека не выйдут на асимптотику. На этом этапе, мне кажется, несостоятельность Ваших аргуметов должна стать понятной даже воробышку.

Может, конечно. Только отбирает ИИ человек. А он себя не знает.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение30.11.2022, 06:19 


12/07/15
2841
г. Чехов
Dicson
В ваших рассуждениях глубочайшая ошибка, которая лишь сигнализирует о том, что вы незнакомы с машинным обучением (~нейронными сетями).

Нейронные сети обучаются не человеком, а входными данными (датасетами). Человек влияет на процесс обучения, и это влияние происходит через так называемые гиперпараметры. Это несколько чисел всего. Следовательно, непонятно, каким образом интеллект человека ограничивает возможности развития ИИ. Такого тормозящего механизма нет.

-- 30.11.2022, 08:31 --

Ну и отдельный разговор про сильный интеллект:

Сильного интеллекта в природе не существует, может существовать несозданный (пока еще) слабый интеллект, который реализует ожидания от него. А чтобы ожидания оправдывались, надо собирать входные данные для обучения (ака датасеты) - это основная сложность.

На данный момент машинное обучение работает так: ставится конкретная задача, собираются данные для обучения, подбираются гиперпараметры, обучается модель, и затем она эксплуатируется.

Нет такого механизма разработки: ставится неопределенная задача (формулируется не до конца или не формулируется вовсе), собираются хоть какие-то данные, гиперпараметры, модель, эксплуатация... Нет такого.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 264 ]  На страницу Пред.  1 ... 5, 6, 7, 8, 9, 10, 11 ... 18  След.

Модератор: Модераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group