2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1 ... 16, 17, 18, 19, 20, 21, 22 ... 24  След.
 
 Re: Еще раз про сильный ИИ
Сообщение04.06.2024, 15:58 
Аватара пользователя


29/04/13
8217
Богородский
MoonWatcher в сообщении #1641324 писал(а):
Тогда что мешает большой языковой модели, которая проанализировала всю доступную текстовую информацию (в том числе десятки миллионов научных публикаций), подобно Ньютону выйти за пределы сложности своих учителей?

А что он будет делать после этого? Когда превзойдёт. Появятся ли у него собственные цели? Или он будет жутко умный под полным контролем человека?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение04.06.2024, 16:49 
Аватара пользователя


17/10/22
367
Yadryara
ИМХО это будет зависеть от двух факторов:
1) возникнет ли в ИИ самосознание (спонтанно или по задумке разработчиков), и/или
2) эволюционирует ли этика (alignment), которой он был обучен.

В первом случае понятно - "свобода воли" и все такое. Во втором случае можно представить, что ИИ создали в эпоху палеолита - с тогдашним [ритуальным] каннибализмом, человеческими жертвоприношениями, кровавыми стычками с чужаками и т.д. И вот этот ИИ, в силу своего интеллектуального превосходства, эволюционировал этак до 21 века. Не факт, но такое допущение имеет право быть. И тогда, возможно, если он и не перестанет быть под контролем человека, то во всяком случае попытается навязать ему новую этику - или скорее, плавно подвести к ней. Но мы его новую этику сейчас можем не понять точно так же, как кроманьонцы не поняли бы современную этику. Это сложный вопрос, поскольку этика во все времена имела довольно простое и понятное назначение - сделать своему социуму (будь то пещерный клан в палеолите или человечество в целом сейчас) хорошо, прежде всего избегая внутренних конфликтов. ИИ как бы окажется вне этики, и лично мне пока не понятно как он будет её воспринимать с высот своего сверхчеловеческого интеллекта - будучи изначально обученным на той этике, которую в него заложили.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 06:32 


12/07/15
3334
г. Чехов
Yadryara в сообщении #1641361 писал(а):
А что он будет делать после этого? Когда превзойдёт. Появятся ли у него собственные цели? Или он будет жутко умный под полным контролем человека?

Да нет же, просто наконец-то уважаемый Dicson будет посрамлён с его теорией ограниченности ИНС. Для этого это утверждение варилось.

Все мы обучаемся так: обучающая выборка у каждого своя, и учителей у нас намного больше чем один. Поэтому один учитель нас никак не ограничивает. У нас могут быть плохие учителя, это, конечно, не приветствуется, но и не ограничивает нас в целом. А еще есть книги, тренинги и познавательная деятельность.... Ууу, сколько учителей.
А если взять отдельно взятого учителя, то у него своя обучающая выборка, другие учителя. Пересечений может быть мало.

Это не мешает какому-то научному открытию долго ждать, когда же один из цепочки передающих знание из поколения в поколение, наконец-то, добредёт и вскроет новое знание. Вся причина в том, чтобы сделать научное открытие, требуется необходимое обучение и шанс. Научные открытия не делаются со 100% вероятностью.

И когда вы рассматриваете какого-то ученого типа Ньютона и видите, что "он взял и смог открыть закон тяготения!!!". Нет, этому ученому просто повезло. Человек не умеет делать вещи со стопроцентной вероятностью, кроме некоторых тех, которым его обучали.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 08:21 
Аватара пользователя


29/04/13
8217
Богородский
Mihaylo в сообщении #1641465 писал(а):
Да нет же, просто наконец-то уважаемый Dicson будет посрамлён с его теорией ограниченности ИНС.

Так а нам какой вопрос интереснее, будет ли посрамлён Dicson или что будет с человечеством?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 11:06 


05/12/14
273
MoonWatcher в сообщении #1641324 писал(а):
Может быть осмысление возможно через статистические текстовые закономерности обучающего дата-сета, при помощи которых LLM предсказывает каждое следующее слово в диалоге с пользователем?

Ответ на ваш вопрос — нет. Потому что статистика всегда имеет погрешность, по отношению к оригинальному процессу. Поэтому ИИ не сможет понимать смысл текстов человека ни глубже самого человека, ни хотя бы так же.

То же самое можно сказать по-другому. Слова сами по себе ничего не значат, это просто звуки или закорючки на бумаге. Поэтому смысл слов лежит за рамками слов. Например, это значит, что никакого языка для описания работы мозга не хватит. Но у вас везде язык, начиная от самого ИИ как вычислительной системы и заканчивая статистикой текстовых закономерностей.

Как, к примеру, моделируется мозг? Собирается статистика активности нейронов из моделируемого участка мозга по некоторой выборке, включая рост связей, так как они в мозге постоянно растут и отмирают. Прямого способа нет, так как глубоко в живой мозг, а тем более в нейрон не заглянешь, в мёртвом смотреть нечего, при этом в реальном мозге все нейроны, даже нейроны одного типа, более или менее разные. В итоге всё, что удалось узнать, обобщается в модель. Поведение этой модели в среднем похоже на оригинал, поэтому можно исследовать какие-то общие закономерности, в медицинских целях, например. А теперь представьте человека, поведение которого только в среднем соответствует условиям. Не логически точно, а только лишь в среднем, относительно поведения реальных людей. Это страх и ужас будет.

И наконец можно сказать так. Реальный мир всегда сложнее его описания. Как минимум пока не создана теория всего, до которой, мягко говоря, далеко (точнее, она не может быть создана, но чтобы не спорить). Таким образом, сложность среды, в которой существует человек, качественно сложнее среды, в которой существует ИИ. Поэтому сложность поведения ИИ может только бесконечно приближаться к сложности поведения человека, а сложность поведения человека к сложности условий среды.

Или сказать так. ИИ существует «внутри» опыта людей, так как создаёт и обучает его человек. В то же время сам ИИ развиваться не сможет, так как он не диссипативная структура. ИИ среда только разрушает, диссипативные структуры среда создаёт, поэтому эволюционировать и самосохраняться умеют только они. В итоге, опять же, сложность поведения ИИ может только бесконечно приближаться к сложности поведения человека.

MoonWatcher в сообщении #1641324 писал(а):
С учетом последнего, ваше утверждение, что "ИИ всегда будет не более чем помощником, способным выполнять простую интеллектуальную работу" мне представляется особенно спорным. В том числе аргументация:
Dicson в сообщении #1641269 писал(а):
Сложность нас самих — это принципиальный предел сложности любого создаваемого нами объекта или знания, к которому можно бесконечно приближаться, но на практике всегда оставаясь далеко от него.

По этой логике Ньютон не мог быть умнее своих преподавателей физики в Кембридже. Да, он "всего лишь карлик на плечах гигантов" - но этими гигантами он называл то, что сейчас выступает в качестве обучающего текстового дата-сета. Тогда что мешает большой языковой модели, которая проанализировала всю доступную текстовую информацию (в том числе десятки миллионов научных публикаций), подобно Ньютону выйти за пределы сложности своих учителей?

Это похоже на аргумент, что человек умеет создавать равное себе по сложности и даже сложнее себя, так как дети рождаются и могут быть умнее родителей. Только детей создаём не мы, а природа. Мы всего лишь запускаем механизм морфогенеза, работу которого не понимаем. То же самое с вашим «аргументом». Вы вначале создайте такую систему, которая будет содержать тот же объём заданного заранее, сколько содержит мозг человека, тогда и обучить её чему угодно человеческому проблем не будет.

MoonWatcher в сообщении #1641372 писал(а):
1) возникнет ли в ИИ самосознание (спонтанно или по задумке разработчиков),

Самосознание в ИИ уже «возникло», по крайней мере в рекуррентных сетях, но, естественно, самосознание в ИИ никогда не возникнет и в рекуррентных сетях тоже. На этом можно бы и закончить, так как, по-моему, всё понятно. Если только пару абзацев.

ЕИ — это упорядоченный континуум веществ и химических реакций. Сложно организованный бурлящий объём, проще говоря. Объём неравновесный, то есть целостный, реагирующий как одно целое. Поэтому и сознание, которое тоже есть упорядоченный континуум, где-то в непредставимой глубине такого объёма может быть. Но ИИ — это программа, последовательность шагов вычислительных операций. Никакого неравновесия, никакой целостности, никакого объёма. Откуда там сознание?

Но если вы понимаете «самосознание» как возможность интроспекции, самонаблюдения, то это уже есть в рекуррентных сетях. Вначале что происходит у человека. Разговор с самим собой, например. Распознавая общие признаки условий (то есть формируется активность мышц общего характера), подкорковые отделы задают общее направление распознаванию в коре (где формируется речь, письмо). Уточняя его до конкретных фраз и образов, в том числе интроспективных — обозначающих себя, кора по обратным связям влияет на подкорковые отделы, внося в их работу соответствующие словам изменения. Это воспринимается субъектом как некоторое новое эмоциональное состояние, так как эмоции суть отражение общего направления поведения, которое формируется подкоркой. Одновременно подкорковые отделы задают новое общее направление распознаванию в коре, которое приводит к новым конкретным фразам и образам. В итоге субъект и эмоционально понимает себя, и соответственно этому пониманию в его сознании возникают новые слова и образы. И так размышление продолжается, пока опыт и условия не приведут к смене поведения.

Что у сетей. Верхние уровни рекуррентной нейронной сети конвергируют сигналы нижних уровней в сигналы логически более точного характера, после чего их обратное влияние на нижние уровни будет приводить к новой конвергенции и так далее — аналогично разговору с самим собой, описанному выше. Смысл этой конвергенции может, к примеру, отражать «плохое» или «хорошее» состояние системы, управляющим элементом которой является нейронная сеть. В результате, распознавая это состояние, нейронная сеть будет как будто «ощущать» плохое или хорошее «настроение», соответствующим образом реагировать и менять его аналогично тому, как мы можем изменить своё настроение, вспоминая что-то хорошее или плохое.

Естественно, что само наличие этой способности не означает появление у такой нейронной сети какого-либо сознания, так как они — см. выше — это другое.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 12:44 
Заслуженный участник
Аватара пользователя


01/08/06
3134
Уфа
Mihaylo в сообщении #1641465 писал(а):
И когда вы рассматриваете какого-то ученого типа Ньютона и видите, что "он взял и смог открыть закон тяготения!!!". Нет, этому ученому просто повезло.

Ни фига себе повезло!
Ньютону не "повезло" догадаться до закона всемирного тяготения. Такие идеи, можно сказать, лежат на поверхности. Это могли сделать в античности.
И даже в античности, в принципе, можно было догадаться до закона обратных квадратов.
Но вы попробуйте изобрести (почти что с нуля) дифференциальное исчисление, и на основе этого нового аппарата попробуйте изматывающими вычислениями доказать, что из закона обратных квадратов следуют законы Кеплера. Вот это я понимаю, повезло так повезло!

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 12:58 


14/01/11
3045
worm2 в сообщении #1641501 писал(а):
Ньютону не "повезло" догадаться до закона всемирного тяготения. Такие идеи, можно сказать, лежат на поверхности. Это могли сделать в античности.

Вот этот момент мне не сосвем понятен, можете пояснить? Разве Ньютон додумался до своих квадратов не под ударным воздействием яблока на голову в ходе анализа тех самых таблиц Кеплера? В античности могло прилететь в лучшем случае оливкой и телескопов-то таких не было.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 13:52 
Заслуженный участник
Аватара пользователя


01/08/06
3134
Уфа
Примерно так:
1) То, что Земля и Луна имеет форму шара, в античности уже знали. Думаю, и про Солнце тоже знали.
2) Все макроскопические массивные тела притягиваются к Земле (учитывая предыдущий пункт: следовательно, к её центру).
Отсюда недалеко до предположений, что и Луна с Солнцем притягиваются к Земле. А потом можно и обобщить. Я не говорю: установить факт, но выдвинуть гипотезу (одну из) вполне можно было.
Что же до обратных квадратов, то наиболее логично предположить, что любое воздействие одного тела на другое в трёхмерном пространстве обратно пропорционально квадрату расстояния между ними.
По аналогии: освещённость источником света падает обратно пропорционально расстоянию до этого источника (это чисто геометрическое рассуждение, а не результат экспериментальных измерений).

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 14:18 
Заслуженный участник
Аватара пользователя


20/08/14
8548
worm2 в сообщении #1641509 писал(а):
Отсюда недалеко до предположений, что и Луна с Солнцем притягиваются к Земле.
Теоретически да. Но Аристотель, например, считал, что твердые тела падают, потому что преобладающий в них элемент – земля – стремится к своему естественному месту в центре мира. А искры летят вверх, потому что естественное место огня – на периферии мира, на небе, где огненные светила. Эрго, в центре мира находится Земля, которая из-за стремления каждого камешка быть как можно к центру приняла форму шара. Похоже на гравитацию, и объясняет, почему антиподы не падают, но у Аристотеля камешки притягиваются не друг к другу, а к единственному на весь мир центру (что никак не объясняет, почему Солнце и Луна тоже круглые).

И даже Галилей все еще не понимал, что на земные и небесные тела действуют одни и те же законы механики. У него земные тела вне действия сил двигались равномерно и прямолинейно, а небесные - по окружности.

Мы впитали идеи современной физики в детстве, и наше воображение ограничено этими идеями. Стартуя от бытовых наблюдений, мы знаем, куда идти, и эта тропка кажется нам естественной. Но на деле есть миллион тропок, ведущих к самым причудливым картинам мира. Так что догадаться до закона обратных квадратов теоретически было можно, а практически - скорее нет.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 15:01 
Аватара пользователя


17/10/22
367
Dicson в сообщении #1641491 писал(а):
Ответ на ваш вопрос — нет. Потому что статистика всегда имеет погрешность, по отношению к оригинальному процессу. Поэтому ИИ не сможет понимать смысл текстов человека ни глубже самого человека, ни хотя бы так же.

То же самое можно сказать по-другому. Слова сами по себе ничего не значат, это просто звуки или закорючки на бумаге. Поэтому смысл слов лежит за рамками слов. Например, это значит, что никакого языка для описания работы мозга не хватит. Но у вас везде язык, начиная от самого ИИ как вычислительной системы и заканчивая статистикой текстовых закономерностей.

Как, к примеру, моделируется мозг? Собирается статистика активности нейронов из моделируемого участка мозга по некоторой выборке, включая рост связей, так как они в мозге постоянно растут и отмирают. Прямого способа нет, так как глубоко в живой мозг, а тем более в нейрон не заглянешь, в мёртвом смотреть нечего, при этом в реальном мозге все нейроны, даже нейроны одного типа, более или менее разные. В итоге всё, что удалось узнать, обобщается в модель. Поведение этой модели в среднем похоже на оригинал, поэтому можно исследовать какие-то общие закономерности, в медицинских целях, например. А теперь представьте человека, поведение которого только в среднем соответствует условиям. Не логически точно, а только лишь в среднем, относительно поведения реальных людей. Это страх и ужас будет.

И наконец можно сказать так. Реальный мир всегда сложнее его описания. Как минимум пока не создана теория всего, до которой, мягко говоря, далеко (точнее, она не может быть создана, но чтобы не спорить). Таким образом, сложность среды, в которой существует человек, качественно сложнее среды, в которой существует ИИ. Поэтому сложность поведения ИИ может только бесконечно приближаться к сложности поведения человека, а сложность поведения человека к сложности условий среды.

Или сказать так. ИИ существует «внутри» опыта людей, так как создаёт и обучает его человек. В то же время сам ИИ развиваться не сможет, так как он не диссипативная структура. ИИ среда только разрушает, диссипативные структуры среда создаёт, поэтому эволюционировать и самосохраняться умеют только они. В итоге, опять же, сложность поведения ИИ может только бесконечно приближаться к сложности поведения человека.

Забавно, но вы "доказываете" то, что уже здесь и сейчас опровергнуто практикой. Потому что уже сейчас чат-боты проявляют себя умнее множества людей - в вышеупомянутых беседах на разные темы, объяснении юмора, поиске аллюзий и скрытых смыслов в тексте, пересказе рассказов, программировании и т.д. При этом нет даже намека на то, что эти интеллектуальные возможности уперлись в потолок - более чем очевидно, что прогресс продолжится за счет улучшения количества (в том числе за счет искусственных данных) и качества обучающего дата-сета, наращивания числа параметров, а тем более гипотетического перехода на еще более перспективные архитектуры (например, сети Колмогорова-Арнольда вместе перцептронов). Никто, включая таких скептиков как Ян Лекун, даже не сомневается, что большие языковые модели станут намного умнее, чем сейчас - и значит в отдельно взятых областях знаний они безусловно превзойдут среднего человека и возможно даже крупного специалиста в своей области.

Когда вы говорите, что "статистика всегда имеет погрешность, по отношению к оригинальному процессу", то невольно подменяете понятия. Дело не в оригинальном процессе - давайте оставим его господу богу, или кто там им заправляет - дело в его ИНТЕРПРЕТАЦИИ человеком. Человеком, масштабам скудоумия которого я не перестаю изумляться всю свою сознательную жизнь. Такого я даже не рассматриваю - давайте возьмем человека, явного умного в своей узкой специальности (что совершенно не мешает ему быть умопомрачительным дураком во всех остальных). В моем понимании интеллект этого человека состоит в способности извлекать из своего книжного опыта закономерности и проецировать на них какие-то конкретные явления и процессы в области его интересов. Вот именно это и требует доказательства - то, что статистические закономерности слов или даже букв в тексте заведомо ущербнее закономерностей более высокого порядка, извлеченных человеком из своего [книжного] опыта. Подчеркиваю: не объективные закономерности мира идей за пределами пещеры Платона, а их СУБЪЕКТИВНОЕ восприятие человеком, запертым в этой самой пещере. Да, это восприятие менее опосредованное - возможно(!) человек осмысливает реальные процессы, никак не задействуя текстовые закономерности. Я говорю возможно, потому что есть исследования, которые указывают на предсказание человеком следующего слова, которое он ожидает услышать или прочесть - совсем как в языковых моделях. Но будем считать, что человек извлекает закономерности напрямую, а одномодальная языковая модель - через описывающую реальный мир формальную систему текстового описания этого мира. Возможно(!) очень умный человек, который каким-то загадочным образом приобщился ко всем реальным процессам, релевантным его сфере деятельности, действительно окажется умнее языковой модели. Но в том-то и дело, что и человек не всегда очень умен, и уж конечно его опыт приобщения к реальным процессам ограничен - прежде всего прочитанной им литературой. Тогда как языковая модель может пропустить через себя всю оцифрованную человечеством текстовую информацию. Количество которой может перейти в качество интеллекта точно так же, как количество прочитанных человеком умных книг переходит в качество его ума.

Dicson в сообщении #1641491 писал(а):
Это похоже на аргумент, что человек умеет создавать равное себе по сложности и даже сложнее себя, так как дети рождаются и могут быть умнее родителей. Только детей создаём не мы, а природа. Мы всего лишь запускаем механизм морфогенеза, работу которого не понимаем. То же самое с вашим «аргументом». Вы вначале создайте такую систему, которая будет содержать тот же объём заданного заранее, сколько содержит мозг человека, тогда и обучить её чему угодно человеческому проблем не будет.

Я намеренно упомянул не родителей, а университетских преподавателей Ньютона и гигантов, на плечах у которых он сидел. Природа здесь общее место - она у кухарки Ньютона примерно такая же была. Ньютон - это прежде всего удачный пример осмысления доступной текстовой информации и извлечения из неё новых закономерностей, которые в этой текстовой информации не описывались. Давайте не будем обожествлять ни его мозг, ни тем более мозг его кухарки, обладающий примерно такой же природой - это только один из инструментов извлечения закономерностей. Доказательства требует то, что извлечение закономерностей опосредованно, на уровне эмбеддинга в обучающем дата-сете, заведомо ущербнее - при том, что, как я уже говорил выше, эта опосредованность компенсируется у языковых моделей огромным объемом информации, которые они могут пропустить через себя.

Вопрос о сознании предлагаю сузить до т.н "свободы воли" - возможно ли её спонтанное (например, с переходом на более высокий уровень) возникновение у ИИ?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 15:14 


12/07/15
3334
г. Чехов
Dicson в сообщении #1641491 писал(а):
Реальный мир всегда сложнее его описания.

Ну даже если бы это было правдой, то можно предложить, что мир чрезмерно сложен, ровно как и его описание. А нам сильно сложно не надо, нам лишь кошечку от собаки отличить.

Ну и неправда это, ибо описание - это есть тоже реальность.

Попытка завязать все на сложности не может привести ни к каким ограничениям. Нам лишь сложно построить датацентры (дорого), а потом датацентры САМОСТОЯТЕЛЬНО работают и долго. Никто над кодом не пыхтит, он уже готов. Никто данные не собирает, они уже все собраны.

Ничего сложного на данный момент нет. Надо только нажать "пуск" на датацентрах.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 15:45 


27/02/09
2835
Dicson в сообщении #1641491 писал(а):
Или сказать так. ИИ существует «внутри» опыта людей, так как создаёт и обучает его человек. В то же время сам ИИ развиваться не сможет, так как он не диссипативная структура.

Почему бы не предположить такую схему функционирования и эволюции сильного ИИ: Время от времени он генерирует проверяемые на опыте гипотезы и алгоритмы их практической проверки человеком, ЕЕ в силу ограниченности не может понять ни логику их выдвижения ни разработать программу осуществления их проверки и все более и более начинает быть зависим от ИИ, становясь по сути его придатком, как в свое время кремниевые скребок и рубило становились "неорганическим телом человека"

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 19:40 


12/07/15
3334
г. Чехов
Да нет никакой ограниченности: хочешь учи математику, хочешь физику, 100 языков, 50 языков программирования. Можно насочинять еще сотни теорем, открыть новые направления математики, придумать еще 5 языков программирования, написать 1000 стихов, 15 романов. В чем ограниченность ИИ?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 19:46 


17/10/16
4840
Mihaylo в сообщении #1641564 писал(а):
В чем ограниченность ИИ?

Ну как же? Мы то "И", а он - "ИИ". Вот от этой лишней "И" никуда он не денется, робот проклятый.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение05.06.2024, 19:50 
Заслуженный участник
Аватара пользователя


16/07/14
9172
Цюрих

(Оффтоп)

Маршак писал(а):
И, если сказать не умеешь "хрю-хрю", -
Визжи, не стесняясь: "И-и!"

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 349 ]  На страницу Пред.  1 ... 16, 17, 18, 19, 20, 21, 22 ... 24  След.

Модератор: Модераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group