2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1 ... 14, 15, 16, 17, 18, 19, 20 ... 24  След.
 
 Re: Еще раз про сильный ИИ
Сообщение15.02.2023, 19:15 


12/07/15
3065
г. Чехов
Это лишь ваша точка зрения. На самом деле на большом количестве вопросов чатгпт крут. Почему это трудно понять? Потому что имеется когнитивное искажение в определении, какие вопросы сложные, а какие простые.

-- 15.02.2023, 21:17 --

Представьте себе, разговаривают инопланетяне:
- Люди умные?
- Нет, тупые, они не могут отличить водород от гелия.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение15.02.2023, 20:18 
Заслуженный участник
Аватара пользователя


01/08/06
3076
Уфа
MoonWatcher в сообщении #1581243 писал(а):
Современный ИИ обучается как минимум на текстах, отчасти (и как минимум в перспективе) на видео (кино, документалистика, новости и т.д.) С моей точки зрения это почти на 100% покрывает знания человечества об окружающем мире

Но ведь эти тексты и видео не размечены. Они не снабжены даже такой простой информацией о том, что утверждение (произнесённое героем художественного произведения) — истинно либо ложно.

Хотя я хочу о другом сказать. Вот вы здесь различаете текст и видео. А почему? Для компьютерного интеллекта и то, и другое — поток битов.
То есть вы всё-таки предполагаете, что мы должны сами заложить в ИИ знание о том, что такое видео и как его обрабатывать. Например: разрешение видео — 1024x768, кодировка 3 байта на точку без сжатия, значит, байты, адреса которых отличаются на 3072, кодируют смежные точки, причём смежные по вертикали, а не по горизонтали. Хотя, теоретически, нейронная сеть могла бы сама сама, помедитировав над петабайтами (даже сжатых) данных, извлечь эту информацию. Нет, вы всё-таки не против того, чтобы вложить это знание априори, снаружи.
Что такое видео? Это аналог информации, получаемой человеческим глазом. А почему бы не пойти дальше? Почему бы не снабдить это видео синхронизированной аудиодорожкой (аналог информации, получаемой человеческим ухом), и не научить железяку (отдельным, априорным) алгоритмам его обработки? Почему не снабдить аппарат газовыми анализаторами и сенсорами, а заодно — устройствами для самостоятельного передвижения и манипуляторами?

Понимаете, к чему я клоню? Сильному ИИ недостаточно манипулировать текстом. Потому что все тексты, которые мы можем ему предложить, недостаточно выразительны для правильной постановки задачи, лишены важной информации о соотнесении их с реальным миром. Мы писали эти тексты для себя, и нам не приходило в голову объяснять читателю, что такое верх и низ, жёлтое и кислое, любовь и ненависть. Да, ИИ может находить внутренние закономерности в таких текстах, но только до определённой степени, которая для многих задач недостаточна. Мы ведь создаём ИИ для себя? Нам ведь нужно, чтобы ИИ решал те же задачи, что и мы (и даже лучше). Действовал в условиях, в которых мы действуем (и даже в гораздо более жёстких). И для этого ему нужны органы чувств, как у нас (и даже лучше). И органы воздействия на окружающий мир — лучше, чем у нас. В каком-то смысле, можно сказать, что и такой ИИ будет обучаться "исключительно на текстах", ведь информация между "мозгом" ИИ и периферийными устройствами будет гоняться в текстовом виде. И в этом смысле можно сказать: да, теоретически можно обучить сильный ИИ "только текстом". Но не тем корпусом текстов, которое накопило человечество для собственного потребления.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение16.02.2023, 01:08 
Аватара пользователя


17/10/22
330
worm2
Выявить верх-низ, желтое-кислое, а тем более любовь-ненависть из текстов ну никак не проблема. Это слова, которые в текстах встречаются миллионы раз в самых разнообразных контекстах, вполне позволяющих эти слова осмыслить через множество ситуаций, сюжетов, связей, закономерностей и т.д. Это и в теории так, и на практике - судя по довольно осмысленным ответам ChatGPT на многие вопросы. Да, не идеально - но тоже очень круто и внушает надежду на дальнейшее развитие. Также могу напомнить, что бывают люди без вкуса, обоняния, слуха, зрения... Которые, несмотря на это, вполне разумны и способны постигать наш мир через, например, текстовое обучение.

Видео я привел своего рода авансом - это больше актуально для андроидов. Книжный (обученный на текстах) сильный ИИ теоретически может заменить среднего человека на любом интеллектуальном поприще - но не способен взаимодействовать с физическими категориями реального мира. Вот здесь как раз видео дата-сет и пригодится. Причем скорее всего без разметки, как и текстовый дата-сет при обучении языковых моделей. Собственно уже пригодился - автопилот активно обучают на виртуальных симуляторах. Робот-андроид - это тот же автопилот, просто более сложный.

А какое оно на вкус кислое, что чувствуешь когда влюблен, что такое желтый цвет (который у всех людей теоретически может быть свой) для книжного интеллекта знать совершенно необязательно. Собственно, как и для взаимодействия с физическими категориями реального мира.

-- 16.02.2023, 01:21 --

Mihaylo в сообщении #1581753 писал(а):
Это лишь ваша точка зрения. На самом деле на большом количестве вопросов чатгпт крут. Почему это трудно понять? Потому что имеется когнитивное искажение в определении, какие вопросы сложные, а какие простые.

Он крут, он очень крут. Но в том качестве, в котором его позиционирует, например, Microsoft, в целом пока бесполезен. Может правильно ответит, а может нет - всё равно надо проверять. Это всё очевидно, интересно другое: удасться ли преодолеть нынешние недостатки чат-ботов, оставаясь в рамках больших языковых моделей? Или все-таки придется прикрутить к ним какие-то костыли, а то и вовсе искать новую архитектуру.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение16.02.2023, 01:31 


05/12/14
21/07/24
252
MoonWatcher в сообщении #1581582 писал(а):
Это понятно, но мы обсуждаем не познаваемость мира, а шансы ИИ на познание этого мира через как минимум тексты, возможно также видео. Чисто умозрительно познание мира через его модель ущербно - но ведь люди познают вовсе не весь мир, а какие-нибудь триллионные доли мира, познанного человечеством в целом.

"Какие-нибудь триллионные доли мира, познанного человечеством в целом" люди познают в контексте реального мира, включая социум, то есть в контексте более богатом и "истинном". Тем самым получая возможность оценивать знания со стороны здравого смысла. Причём в "познанном человечеством" они познают не "триллионные доли", то есть не всё во всех подробностях, а получают общее представление о том, что до них понято человечеством, в том числе о том, что и почему было опровергнуто, а специализируются уже в каких-то частных областях. Это общее представление опять же работает на здравый смысл, понимание того, что в целом происходит в мире, умению отделять разумное от не разумного.

ИИ обучается на текстах. Что чаще в каком контексте повторяется, то в этом контексте и разумно. Но, не имея человеческого опыта, он не способен столь точно, как человек, отделить один контекст от другого. Как следствие, получая вопрос и понимая его контекст своеобразно, в ответе появляется то, что в нём не разумно. С точки зрения ИИ всё великолепно, но человек видит неадекватность ответа. В итоге ИИ знает много текстов, но доверия его выводам нет.

И этого не избежать, если обучение происходит на "познанном человечеством". К примеру, пытаясь сделать ИИ умнее, вы подключаете его к интернету, и он набирается там бреда, а давая только проверенные тексты, вы сужаете опыт, тем самым опять же способствуя непониманию контекста. В результате вы получите приблизительно такую же неадекватную картину, но теперь уже из-за недостатка опыта. То есть дело не только в текстах, улучшая дата-сеты вы всё равно не заставите ИИ понимать их как человек, потому что он не человек, у него другой опыт.

При этом ИИ ещё и много проще человеческого интеллекта, то есть объём опыта у человека несравнимо больше, чем у ИИ. Просто в некотором смысле основная его часть - это опыт перемещения в среде и вообще разного рода взаимодействия с ней, включая социальные отношения. То есть фактически всё то, что и образует здравый смысл. Парадокс Моравека, прочитайте. Речь - это малая часть мышечной активности (мозг управляет мышцами - на входе нейронной сети мозга рецепторы, на выходе мышцы). Мы воспринимаем и "понимаем" много больше, чем можем высказать, формализовать.

MoonWatcher в сообщении #1581582 писал(а):
Тогда как ИИ теоретически может познать модель мира (тексты, видео) на все 100%, и при этом обнаруживать в нем скрытые от человека закономерности.

"Познать на 100%" ничего нельзя, знания об объекте познания - это не сам объект познания. Поэтому тот смысл, который мы вкладываем в какой-то текст, ИИ понимает не так как мы - и как мы не поймёт, ведь у него другой опыт и его меньше. Мы так же всё понимаем по-своему, но в меньшей степени, так как мы все приблизительно одной сложности, обученные в одном мире, различаясь только в частностях опыта.

При этом в сети все знания находятся в распределённом виде, поэтому что конкретно в тексте ИИ познал, что не познал, мы никогда не знаем. В смысле мы никогда не знаем, что из текста осталось в памяти ИИ, как он его воспринял. Упрощённо говоря, вместо того, чтобы различать на картинках кошек и собак, ИИ может научиться различать фон. Так же и с текстами.

Любой ответ ИИ - это "выявленные скрытые закономерности", ведь ИИ его сам сочинил, именно выявив закономерности в обучающей выборке. Но действительно, ИИ может и что-то интересное выдать, то есть действительно сделать некое более или менее значимое открытие или дать дельный совет. Проблема в том, что это всё тонет в малосодержательном и неадекватном, ведь таких закономерностей несравнимо больше, а ИИ - см. выше - слаб в отделении разумного от бреда. Но в каком-то смысле помощником по генерации гипотез ИИ, вероятно, может подрабатывать.

Фактически основное достоинство ИИ сейчас - это скорость, с которой он может делать простую интеллектуальную работу, а основная проблема - неадекватность.

MoonWatcher в сообщении #1581582 писал(а):
Представьте, что ИИ регистрирует и анализирует всю доступную человечеству информацию о мире - в моем понимании это расширит знание о мире на порядки. Это все равно что сравнить дикаря, который целыми днями наблюдает физические, химические, биологические, социальные и прочие явления окружающего мира - но не понимает их, и академию наук, с тысячами ученых, которые изучают непосредственно физику, химию и т.д. У кого из них складывается более полная картина мира - у практика-дикаря или у теоретиков-ученых?

Тексты находятся в интернете, а там полно бреда, и его становится относительно всё больше, по крайней мере явно не меньше. В итоге без здравого смысла знания только умножают скорбь.

MoonWatcher в сообщении #1581582 писал(а):
Запустить ИИ в мир в виде робота теоретически не проблема - в ваших глазах, как я понимаю, это уравняет его познание мира с человеческим. Но вряд ли это сколько-нибудь значительно расширит его знания о мире по сравнению со знанием, которое ИИ почерпнул из текстов и видео.

Наоборот, проблема. Вы запустите простого робота, слабый ИИ. Чтобы он стал сильным, надо или чтобы он эволюционировал, или мы сами должны сразу сделать его такой сложности, чтобы ему, например, оставалось только обучиться. Но сколько-нибудь результативная эволюция невозможна для искусственных систем, так они работают по другим принципам, а сделать ИИ сразу таким сложным, чтобы оставалось только обучиться, невозможен на практике - см. далее.

MoonWatcher в сообщении #1581582 писал(а):
Опять же - чем это погружение в "свой" мир принципиально отличается от погружения в игру го? Я согласен, что человек к абстракциям адаптирован хуже, чем к своей привычной среде - но это не значит, что "любой мыслимый сейчас ИИ" плохо адаптирован к привычной среде человека. Во всяком случае это недоказуемо. А если и доказуемо, то не на уровне ваших аргументов о необходимости "вместить явление в свой опыт, посмотреть со стороны". ...
Человеку его мир конечно привычнее абстрактного мира го, шахмат, математики и т.д. - а ИИ какая разница, в принципе? Что принципиально мешает ему освоить закономерности нашего мира (в области математики, физики, химии, биологии, истории, социологии, экономики и т.д.) подобно тому, как он освоил закономерности го?

Устройство определяет как возможности системы, так и их границы, то есть любая система специализированна. Мозг человека, естественно, тоже. Поэтому несравнимо более простая система может его за границами специализации обойти. Это в целом мы наблюдаем в случае игры в го.

Что касается биологии или других естественных наук (и даже математики, хотя и в меньшей степени), то правила го не меняются, поэтому мы можем постоянно улучшать систему, точно понимая, что нам от неё нужно, "в какую сторону" её нужно улучшать, чего от неё добиваться. В науке мы, наоборот, эти правила ищем, поэтому "куда улучшать" заранее неизвестно. При этом мы должны постоянно обучаться новым знаниям, общаться, обсуждать идеи. В результате без здравого смысла будет то, что написано выше. Но вот диагнозы ставить - это ИИ может. Только врач их должен проверять, насколько это возможно. Это для ИИ как игра в го.

MoonWatcher в сообщении #1581582 писал(а):
Простите, но никаких убедительных аргументов о невозможности создания сильного ИИ я не увидел. Если я правильно понял, ваш основной тезис это "Чтобы понять явление, его надо вместить в свой опыт. То есть, как говорится, посмотреть со стороны". Я по-прежнему не понимаю чем личный опыт лучше книжного.

Создание сильного ИИ - это создание системы, равной себе сложности. Оценить работу такой системы будет всё сложнее по мере приближения её сложности к сложности нашего собственного интеллекта. Дело в том, что сложность поведения равна сложности мышления, поэтому точно оценить поведение системы равной себе сложности - это вместить в свой опыт весь опыт другого человека. Естественно, что это невозможно, поэтому оценка может быть только сильно неточной и приближаться к полностью неопределённой по мере того, как ИИ становится всё сложнее. Как следствие, на некотором уровне сложности дальнейшее развитие ИИ остановится.

MoonWatcher в сообщении #1581582 писал(а):
можно ли в рамках LLM извлекать из текстовой модели любую закономерность реальности, описанной этой текстовой моделью?

Описание не может быть полным - иначе это уже не описание, а сама реальность. Следовательно, у вас может быть только упрощённое описание реальности, и речь потому уже не идёт о "любой закономерности реальности". К тому же упрощённое - это и в той или иной степени реальной реальности неадекватное. В итоге всё то же самое, что с обучением на текстах выше.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение16.02.2023, 02:25 
Аватара пользователя


17/10/22
330
Dicson
Цитата:
Тексты находятся в интернете, а там полно бреда, и его становится относительно всё больше, по крайней мере явно не меньше. В итоге без здравого смысла знания только умножают скорбь.

Это применимо и к людям, и решается ранжированием обучающих дата-сетов, например. Условно, ИИ надо сначала обучить на добротных учебниках и справочниках, потом публикациях в уважаемой периодике, потом препринтах и т.д.

По поводу остального - ИМХО насколько вы сделали бездоказательные утверждения, настолько же я дам на них бездоказательные возражения. Хочу напомнить свое сравнение дикаря с академической библиотекой: богатый жизненный опыт первого с точки зрения понимания нашего мира ничтожен по сравнению со знаниями последней. Дикарь приспособлен для охоты и собирательства, простейших социальных навыков и т.д. - но он ничего не знает об устройстве нашего мира. А книги, которые это устройство описывают, не требуют от читателей тех интеллектуальных навыков, что имеет дикарь. Особенно в случае с математикой или какой-нибудь квантовой физикой - повседневный опыт им не только не нужен, но зачастую даже вредит. То же самое могу сказать о своем личном восприятии социальных наук - жизненный опыт там ничего не дает. Я неоднократно слушал людей с богатым жизненным опытом, которые несут конспирологическую дичь - хороший учебник по истории многократно превосходит индивидуальный опыт миллиона таких болванов. Представьте себе слепо-глухонемого аутиста, который по специальной системе прочитал тысячу хороших книг по истории или какой-то другой социальной науке. Его знания об окружающем мире минимальны - а исторические закономерности он усвоит лучше, чем миллион вместе взятых вышеупомянутых болванов. Мировая история в его голове станет своего рода аналогом шахмат или компьютерной стратегии - в которых ИИ, как известно, уже вполне преуспел.

Про парадокс Моравека не слышал, но судя по его описанию в Википедии, о нем сейчас не говорит только ленивый. Но тот факт, что робототехника отстает от развития ИИ, вовсе не означает, что без автоматизации навыков, благодаря которым человек умеет убирать улицы, сортировать мусор или развозить пиццу, невозможно создание сильного книжного ИИ, который способен заменить человека в любой офисно-интеллектуальной специальности.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение16.02.2023, 05:37 


05/12/14
21/07/24
252
MoonWatcher в сообщении #1581801 писал(а):
Это применимо и к людям, и решается ранжированием обучающих дата-сетов, например. Условно, ИИ надо сначала обучить на добротных учебниках и справочниках, потом публикациях в уважаемой периодике, потом препринтах и т. д.

Это не меняет общей картины, которая описана выше. Строгое ранжирование - это неспособность обобщать, и в пределе отсутствие интеллекта как такового, слабое - обобщение необобщаемого и чушь. Золотой середины, где есть обобщение и нет чуши, не существует, потому что у ИИ нет опыта человека, он всё воспринимает по-своему.

Люди тоже ошибаются. Каждый человек в чём-то неправ, неточен. Но, во-первых, нам не нужен ещё один человек - прежде всего нам нужно, чтобы поведение машины было адекватным. Иначе это просто безделушка с очень узкими границами применимости. Во-вторых, в обществе на всех уровнях есть "система сдержек и противовесов", так как социум - это единая система. Поэтому от человека никто и не ждёт точности во всём и энциклопедических знаний. В-третьих, мы в конечном итоге оцениваем свои знания с позиции повышают ли они качество жизни или нет, что позволяет нам на самих себе понимать, что верно, что неверно. То есть мы существуем в несравнимо более богатом контексте опыта, чем ИИ. И этот опыт напрямую взят из реальности, а не через посредника, который всё упростил и исказил.

А на больших временных промежутках в дело вступает естественный отбор - выживает тот социум, люди в котором не пренебрегали здравым смыслом. Это ещё один контекст - уже опыта социума, как целого. Что позволяет людям из поколения в поколение жить лучше и сохранять адекватность - и за счёт богатства опыта, и за счёт особенностей устройства. У ИИ ничего из этого нет - ни опыта человека, ни его устройства. Ему неоткуда набраться адекватности, кроме как в нашем формализованном опыте - но этот опыт не реальность, поэтому сам по себе, без более общего контекста, этот опыт приводит к тому, что выводы ИИ тоже неадекватны реальности.

"Сдержки и противовесы" ИИ - мы, а мы можем оценить самих себя только очень ограниченно. Поэтому, чем ближе система приближается к сложности нас самих, тем больше в ней приходится угадывать, а не рассчитывать, как в создании, например, калькуляторов. "Больше и больше угадывать" - это в реальности рост неопределённости по всем параметрам создания систем и, таким образом, рост времени каждого нового усложнения систем. И в итоге остановка.

MoonWatcher в сообщении #1581801 писал(а):
Его знания об окружающем мире минимальны - а исторические закономерности он усвоит лучше, чем миллион вместе взятых вышеупомянутых болванов. Мировая история в его голове станет своего рода аналогом шахмат или компьютерной стратегии - в которых ИИ, как известно, уже вполне преуспел.

Речь идёт о человеке - "сильном ИИ", которому отключили некоторые рецепторы. Но опыт в сети распределённый, поэтому оставшиеся при должном обучении многое компенсируют плюс есть ещё врождённые факторы. Что до идиотов, то см. выше - нас много, мы целое, мы само-организуемся. Слепоглухонемые, кстати, уже писали книги. Отзывы вроде не очень.

MoonWatcher в сообщении #1581801 писал(а):
Но тот факт, что робототехника отстает от развития ИИ, вовсе не означает, что без автоматизации навыков, благодаря которым человек умеет убирать улицы, сортировать мусор или развозить пиццу, невозможно создание сильного книжного ИИ, который способен заменить человека в любой офисно-интеллектуальной специальности.

В нас один интеллект на всё. А так как опыт в сети распределённый, то сложность поведения в одной области опыта, это и отчасти возможности в другом. Поэтому, вероятно, что без "навыков убирать улицы", то есть без воссоздания нашего интеллекта во всей сложности поведения, уровня средней человеческой адекватности от него не добиться.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение16.02.2023, 10:06 
Заслуженный участник
Аватара пользователя


01/08/06
3076
Уфа
MoonWatcher в сообщении #1581798 писал(а):
Выявить верх-низ... из текстов ну никак не проблема

Цитата:
Встаньте прямо, ноги вместе, руки расставьте в стороны. Голову наклоните вниз до упора. На какую букву латинского алфавита похожа получившаяся фигура, если смотреть спереди?

Человек с лёгкостью решит эту задачу. А ИИ "общего вида", даже перспективный, обучаясь на существующих текстах — нет.
Хотя он "знает" все шрифты для всех алфавитов, "знает" о геометрии, стереометрии и человеческой анатомии всё, что знает человечество, и даже больше (потому что умеет выявлять скрытые закономерности из миллионов учебников, да).
Но не сможет. Если ему специально не подсказать.
Если вдруг конкретно эта задача случайно была в каком-нибудь учебнике по схоластике 17 века, попавшем в корпус обучающих текстов с размеченным правильным ответом — сможет.
Если тут будет размещен правильный ответ, и эта наша переписка попадёт в корпус обучающих текстов — сможет.
Если нанять тысячи "code monkeys" придумывать подобные задачи с правильными ответами и поместить миллионы таких обучающих текстов в корпус — сможет даже сделать вид, что научился все такие задачи решать.
Иначе — не сможет. Ну не рассчитывало человечество свои тексты на то, что они будут обрабатываться машинно, как поток символов.
В принципе, даже то, что латинская буква "O" и кириллическая буква "O" похожи до степени смешения, он "знает" только потому, что кому-то пришло в голову конкретно об этом факте где-то текстом написать (а ведь могло и не прийти: оно и так очевидно). Залезть в шрифтовой файл и убедиться, что описание их фигур в точности совпадают, или отрендерить их на матрице точек и убедиться в поточечном совпадении он не догадается. Если ему специально не подсказать. Для схожих символов каких-нибудь экзотических алфавитов или спецсимволов задача уже будет провалена.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение16.02.2023, 18:00 
Аватара пользователя


17/10/22
330
Dicson
Цитата:
Это не меняет общей картины, которая описана выше. Строгое ранжирование - это неспособность обобщать, и в пределе отсутствие интеллекта как такового, слабое - обобщение необобщаемого и чушь. Золотой середины, где есть обобщение и нет чуши, не существует, потому что у ИИ нет опыта человека, он всё воспринимает по-своему.

При чем здесь обобщение, каким образом на него влияет обучение от более точных и надежных, но менее полных, дата-сетов, к менее точным и надежным, но более полным? Зачем дикарю его дикарский опыт, когда его посадили за парту учить физику? А искусственному интеллекту зачем?

Цитата:
Люди тоже ошибаются. Каждый человек в чём-то неправ, неточен. Но, во-первых, нам не нужен ещё один человек - прежде всего нам нужно, чтобы поведение машины было адекватным. Иначе это просто безделушка с очень узкими границами применимости. Во-вторых, в обществе на всех уровнях есть "система сдержек и противовесов", так как социум - это единая система. Поэтому от человека никто и не ждёт точности во всём и энциклопедических знаний. В-третьих, мы в конечном итоге оцениваем свои знания с позиции повышают ли они качество жизни или нет, что позволяет нам на самих себе понимать, что верно, что неверно. То есть мы существуем в несравнимо более богатом контексте опыта, чем ИИ. И этот опыт напрямую взят из реальности, а не через посредника, который всё упростил и исказил.

Вы литературу называете посредником? Так для усвоения этих знаний ничего кроме этого посредника попросту нет. Или покажите как ваш жизненный опыт помогает изучать математику, физику, химию, биологию или даже историю. Весь ваш жизненный опыт бесконечно ничтожен по сравнению с исторической литературой, которая описывает опыт миллионов людей, со всеми его закономерностями. Так объясните наконец зачем нужен личный опыт, к которому вы постоянно апеллируете.

Цитата:
В нас один интеллект на всё. А так как опыт в сети распределённый, то сложность поведения в одной области опыта, это и отчасти возможности в другом. Поэтому, вероятно, что без "навыков убирать улицы", то есть без воссоздания нашего интеллекта во всей сложности поведения, уровня средней человеческой адекватности от него не добиться.

Хотите сказать, что если человек не умеет мести улицы, то из него получится плохой математик, физик, химик, биолог, историк?.. Вероятно - это из области голословных предположений. Какие конкретно основания считать, что интеллектуальные навыки, благодаря которым человек умеет убирать улицы, будут востребованы в книжных науках?

-- 16.02.2023, 18:19 --

worm2
Цитата:
Встаньте прямо, ноги вместе, руки расставьте в стороны. Голову наклоните вниз до упора. На какую букву латинского алфавита похожа получившаяся фигура, если смотреть спереди?
Цитата:
Человек с лёгкостью решит эту задачу. А ИИ "общего вида", даже перспективный, обучаясь на существующих текстах — нет.

Её решил даже простенький чат-бот, ни разу не претендующий на звание ИИ общего вида (ниже - автоперевод с английского):
Цитата:
Описанная поза выглядит как буква "Т" латинского алфавита, если смотреть на нее спереди. Вытянутые в стороны руки образуют горизонтальную линию буквы "Т", а корпус и ноги - вертикальную линию буквы "Т". Наклоненная вниз голова не влияет на форму буквы "Т" при взгляде спереди.

Прикрепил бы скриншот, да не умею.

worm2 в сообщении #1581817 писал(а):
Иначе — не сможет.

Это зависит от текста. Теоретически вполне вероятно, что где-то в нем встречается описание а-ля "Он встал буквой Т, сдвинув вместе ноги и широко распахнув руки". Но допустим, что не встретилось - как насчет приведенного мною обучения на видео? Уж там ИИ точно обнаружит такое сходство.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение16.02.2023, 19:39 
Заслуженный участник
Аватара пользователя


01/08/06
3076
Уфа
MoonWatcher в сообщении #1581870 писал(а):
worm2
Цитата:
Встаньте прямо, ноги вместе, руки расставьте в стороны. Голову наклоните вниз до упора. На какую букву латинского алфавита похожа получившаяся фигура, если смотреть спереди?
Цитата:
Человек с лёгкостью решит эту задачу. А ИИ "общего вида", даже перспективный, обучаясь на существующих текстах — нет.

Её решил даже простенький чат-бот, ни разу не претендующий на звание ИИ общего вида (ниже - автоперевод с английского):
Цитата:
Описанная поза выглядит как буква "Т" латинского алфавита, если смотреть на нее спереди. Вытянутые в стороны руки образуют горизонтальную линию буквы "Т", а корпус и ноги - вертикальную линию буквы "Т". Наклоненная вниз голова не влияет на форму буквы "Т" при взгляде спереди.

Признаюсь, этот ваш чат-бот реально удивил меня, разбив мой пример в пух и прах.

Но вы ведь сами понимаете, что он сделал это потому, что я недооценил априорную информацию, вложенную в него разработчиками. Это ведь они вручную разметили множество человеческих поз подробными текстовыми описаниями (никак не ожидал от них такой прыти, что у них руки до таких вещей дойдут, молодцы!). Вы ведь не будете утверждать, что "простенький чат-бот" смоделировал 3D-геометрию человеческого тела, взял от него проекцию на правильную плоскость и распознал фигуру? Или как-то иначе, но переработал текст, не размеченный специально для таких примеров?

Цитата:
worm2 в сообщении #1581817 писал(а):
Иначе — не сможет.

Это зависит от текста. Теоретически вполне вероятно, что где-то в нем встречается описание а-ля "Он встал буквой Т, сдвинув вместе ноги и широко распахнув руки". Но допустим, что не встретилось - как насчет приведенного мною обучения на видео? Уж там ИИ точно обнаружит такое сходство.

Так всё-таки видео нужно? С множеством обучающих видео, размеченных текстом — тут я согласен, такие задачки, как у меня, уже существующий ИИ сможет "щёлкать" (это ни фига не тривиально, прогресс есть и я им восхищаюсь). Но это — не обработка текста. Это распознавание и синтезирование образов, которое из текстов никак не выводится, а программируется отдельно. И даже в этом случае я сомневаюсь, что из видео и текста, без специальной разметки, без априорно заложенного 3D-моделирования, у ИИ получится извлечь информацию о взаимном пространственном расположении объектов на видео. Уточню: сможет, конечно, на основании большого размеченного набора данных "на данном видео кот расположен справа и сзади от собаки" правильно отвечать на вопросы "как на этой фотографии располагается дедушка относительно внука", но полноценной 3D-картины, с примерными расстояниями, это ему не даст. Чисел, обозначающих различные расстояния, в мире слишком много, и разработчики запарятся их вносить в разметку. Гораздо проще полноценную 3D-модель впилить.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение16.02.2023, 20:22 
Аватара пользователя


17/10/22
330
worm2 в сообщении #1581902 писал(а):
Признаюсь, этот ваш чат-бот реально удивил меня, разбив мой пример в пух и прах.

Но вы ведь сами понимаете, что он сделал это потому, что я недооценил априорную информацию, вложенную в него разработчиками. Это ведь они вручную разметили множество человеческих поз подробными текстовыми описаниями (никак не ожидал от них такой прыти, что у них руки до таких вещей дойдут, молодцы!). Вы ведь не будете утверждать, что "простенький чат-бот" смоделировал 3D-геометрию человеческого тела, взял от него проекцию на правильную плоскость и распознал фигуру? Или как-то иначе, но переработал текст, не размеченный специально для таких примеров?

Нет, конечно - никто его не размечал и геометрию человеческого тела чат-бот тоже не моделировал. В том-то и состоит фокус, что все это работает через закономерности слов в тексте. Причем необязательно так явно, как я описал в своем гипотетическом примере ("Он встал буквой Т, сдвинув вместе ноги и широко распахнув руки"). Лично меня, например, в контексте обучения на статистических текстовых закономерностях больше впечатляют его математические способности (тоже далеко не идеальные):
Цитата:
В 2010 году мой отец был вдвое старше меня плюс 5 лет. В 2020 году мне было 34 года. Сколько лет ему было в 2013 году?

В 2010 году возраст вашего отца был вдвое больше вашего возраста в то время плюс 5 лет. Поскольку в 2020 году вам было 34 года, мы знаем, что в 2010 году вам было 34-10=24 года. Следовательно, в 2010 году возраст вашего отца составлял 2*24+5=53 года.
В 2013 году возраст вашего отца был бы 53+3 = 56 лет.

Очевидно, что в таком явном виде ничего подобного в литературе не встречается, ответ не нагуглить - но зато там есть задачники по математике, например. Обучившись на которых чат-бот успешно решает такие простенькие задачи. В этом и состоит скрытая мощь и интрига больших языковых моделей - как далеко они могут зайти в своем обучении? Это не риторический вопрос - действительно никто не знает.

worm2 в сообщении #1581902 писал(а):
Так всё-таки видео нужно? С множеством обучающих видео, размеченных текстом — тут я согласен, такие задачки, как у меня, уже существующий ИИ сможет "щёлкать" (это ни фига не тривиально, прогресс есть и я им восхищаюсь). Но это — не обработка текста. Это распознавание и синтезирование образов, которое из текстов никак не выводится, а программируется отдельно. И даже в этом случае я сомневаюсь, что из видео и текста, без специальной разметки, без априорно заложенного 3D-моделирования, у ИИ получится извлечь информацию о взаимном пространственном расположении объектов на видео. Уточню: сможет, конечно, на основании большого размеченного набора данных "на данном видео кот расположен справа и сзади от собаки" правильно отвечать на вопросы "как на этой фотографии располагается дедушка относительно внука", но полноценной 3D-картины, с примерными расстояниями, это ему не даст. Чисел, обозначающих различные расстояния, в мире слишком много, и разработчики запарятся их вносить в разметку. Гораздо проще полноценную 3D-модель впилить.

Видео нужно как "бонус" - применительно к абсолютному большинству областей книжных знаний угадывать изображенную человеком букву или что-то в этом роде вряд ли нужно (да и ту угадал). Насчет разметки не знаю, но в принципе распознавать образы современный ИИ уже умеет, рисовать и редактировать по текстовому описанию картинки и коротенькими анимациями тоже. В принципе это задача решаемая, так что при должном развитии робототехники андроиды вполне могут обучиться всем физическим закономерностям нашего мира. Например, в прошлом году великая и ужасная DeepMind выпустила модель PLATO, обученную интуитивному пониманию физики на видеороликах.

-- 16.02.2023, 20:42 --

Кстати, решил дополнить ваш тест:
Цитата:
А если посмотреть сбоку?

Если посмотреть на ту же позицию сбоку, то фигура будет напоминать букву "I" латинского алфавита. Туловище и ноги образуют вертикальную линию буквы "I", а руки, вытянутые в стороны, выглядят как небольшие горизонтальные линии, идущие по бокам от вертикальной линии. Наклоненная вниз голова не влияет на форму буквы "I" при взгляде сбоку.

А если посмотреть сверху?

Если смотреть на ту же позицию прямо сверху, то фигура будет напоминать знак плюс или букву «X» латинского алфавита, в зависимости от точного расположения рук. Наклоненная вниз голова не была бы видна с этой точки зрения.

Если бы руки были совершенно горизонтальны и вытянуты прямо в стороны, фигура напоминала бы знак плюс, а туловище и ноги образовывали бы вертикальную и горизонтальную линии соответственно.

Если бы руки были слегка наклонены вверх, фигура была бы похожа на букву «X», где тело и ноги образуют диагонали, а наклоненные руки — две пересекающиеся линии.

На какую букву латинского алфавита похожа эта фигура, если человек поднимет руки и слегка вытянет их в стороны?

Если человек стоит прямо с поднятыми и слегка вытянутыми в стороны руками, то при взгляде спереди фигура будет напоминать букву «Y» латинского алфавита. Поднятые руки образуют две диагональные линии буквы «Y», а туловище и ноги — вертикальную линию буквы «Y». Голова и шея образуют верхний контур буквы «Y».

Если смотреть сверху, то фигура будет напоминать звезду, где тело и ноги образуют центр звезды, а поднятые руки — точки звезды.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение17.02.2023, 09:45 


05/12/14
21/07/24
252
MoonWatcher в сообщении #1581870 писал(а):
При чем здесь обобщение, каким образом на него влияет обучение от более точных и надежных, но менее полных, дата-сетов, к менее точным и надежным, но более полным? Зачем дикарю его дикарский опыт, когда его посадили за парту учить физику? А искусственному интеллекту зачем?

Обобщение, индукция - это функция, которая, собственно, и характеризует разум, интеллект, способность познавать, порождать новое знание. От частного к общему, от смысла слов к смыслу фразы, от фактов к теории. Чем строже вы ограничиваете и направляете опыт ИИ, тем больше вы ограничиваете обобщение, то есть возможное богатство и новизну идей. Без этого не обойтись, но, с другой стороны, неизвестно, что конкретно привело человека к новой идее - в распределённой системе триггером может быть что угодно.

MoonWatcher в сообщении #1581870 писал(а):
Вы литературу называете посредником? Так для усвоения этих знаний ничего кроме этого посредника попросту нет. Или покажите как ваш жизненный опыт помогает изучать математику, физику, химию, биологию или даже историю. Весь ваш жизненный опыт бесконечно ничтожен по сравнению с исторической литературой, которая описывает опыт миллионов людей, со всеми его закономерностями. Так объясните наконец зачем нужен личный опыт, к которому вы постоянно апеллируете.

Речь, снятые фильмы - это некоторый итог работы нашего интеллекта, а сам наш мир - он другой, это не тексты и не фильмы/изображения. Для ИИ наши знания - это его мир, а итог работы ИИ - ответы на наши вопросы. При этом наши знания не могут стать полностью адекватными нашему миру. То же касается и знаний ИИ, поэтому его ответы не могут стать полностью адекватными нашим знаниям. В итоге, мало того, что по отношению к реальной реальности неадекватность содержат наши знания, так ещё и ИИ в своих ответах добавляет к ним неадекватности "от себя". Вот это и значение "бесконечно ничтожного" жизненного опыта.

MoonWatcher в сообщении #1581870 писал(а):
Хотите сказать, что если человек не умеет мести улицы, то из него получится плохой математик, физик, химик, биолог, историк?.. Вероятно - это из области голословных предположений. Какие конкретно основания считать, что интеллектуальные навыки, благодаря которым человек умеет убирать улицы, будут востребованы в книжных науках?

Мозг управляет мышцами. Наше мышление, наши знания - это суть последовательности действий решения задач. Фантазии, логические построения, формулы, алгоритмы - это всё те же последовательности. Поэтому "мести улицы" - это такая же интеллектуальная работа, что и решать уравнения, только простая. При этом мозг - это распределённая система, поэтому строит последовательности так или иначе весь мозг, весь мозг подчинён этой общей работе.

Таким образом, в построении фраз в той или иной степени участвует весь мозг, то есть значение имеет весь наш опыт, а любое наше знание более или менее распределено сразу по всему мозгу. Но у ИИ другой опыт - он меньше, он другой, знания в его "мозге" распределены по-другому. Поэтому добившись в чём-то адекватности, мы всё равно получаем в целом неадекватную систему. Которая будет адекватно воспринимать наши тексты, только когда сама станет нами. А пока бесспорное преимущество только одно - скорость простой интеллектуальной работы.

Вообще, вероятно, что уже очень скоро даже в нынешнем виде ИИ станет общедоступным. Просто мы как-нибудь приспособимся к его неадекватности, будем фильтровать. Пока это только диалоги, а не самостоятельные действия, то, при должной привычке, это, вероятно, не так опасно. И не во всех задачах важна точность. Например, если тема знакомая, то может быть проще подправить ответ от ИИ, чем с нуля написать самому.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение17.02.2023, 11:07 
Заслуженный участник
Аватара пользователя


01/08/06
3076
Уфа
MoonWatcher в сообщении #1581911 писал(а):
В том-то и состоит фокус, что все это работает через закономерности слов в тексте.

Ну я остаюсь при своём мнении. Я не утверждаю, что бот в силу своего несовершенства не мог обнаружить скрытые закономерности, позволяющие правильно ответить на мой вопрос. Я беру на себя смелость утверждать, что таких закономерностей в "обычных", не адаптированных, текстах вообще нет (хотя это утверждение невозможно верифицировать и трудно фальсифицировать). В обучающую модель просто была явно заложена информация, позволяющая правильно отвечать на подобные вопросы, в иное я отказываюсь верить. Вероятно, там есть подробные описания форм букв, обильно снабжённые примерами, на какие предметы они похожи. Например, уверен на 99%, что вот этот текст:
Цитата:
Наклоненная вниз голова не влияет на форму буквы "Т" при взгляде спереди.
в какой-то вариации (возможно, в нескольких) в обучающий корпус входит. Уже то, что бот сумел "развернуть" это описание в обратном направлении — серьёзное достижение, достойное восхищения (хотя это нам может показаться тривиальным, но там же вариантов тьма, комбинаторные взрывы на каждом шагу).
Другой вариант, позволяющий отвечать на такие вопросы — использование геометрических моделей (распознавание, синтез). Ещё более простой вариант — использование онтологических моделей, где всевозможные сведения об окружающем мире накапливаются не в текстовом, а в формализованном виде, позволяющем легко строить логические цепочки вывода. Никто не запрещал инженерам Google использовать, например, OpenCyc, и возможно, они так и поступили (хотя там столько ресурсов, что они могли бы и сами с нуля что-то такое создать). Возможно, OpenCyc уже содержит сведения о формах различных объектов, в т.ч. букв и человеческого тела. Лет 10 назад он, например, уже содержал сведения о том, что мужчины обычно не носят юбки; о том, что юбки — традиционная одежда мужчин-шотландцев; и умел из этого сделать вывод: "Если мужчина носит юбку, то он, вероятно, шотландец".
Я считаю, что это (использование других моделей, помимо текстовых) — единственно верное направление на пути к "настоящему сильному" ИИ, хотя думаю что конкретно в ChatGPT конкретно геометрических моделей ещё нет.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение17.02.2023, 11:45 
Аватара пользователя


29/04/13
7538
Богородский
MoonWatcher в сообщении #1581870 писал(а):
Прикрепил бы скриншот, да не умею.

Об этом многократно было. См. например

«Про то, как вставлять картинки»

Ещё похоже что Вы и кнопку "Вставка" не освоили...

MoonWatcher в сообщении #1581911 писал(а):
В этом и состоит скрытая мощь и интрига больших языковых моделей - как далеко они могут зайти в своем обучении? Это не риторический вопрос - действительно никто не знает.

Я прям ощутил, как повеяло технологической сингулярностью.

А загадки он умеет отгадывать? А бескрылки?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение17.02.2023, 12:18 
Аватара пользователя


17/10/22
330

(Оффтоп)

Yadryara в сообщении #1581994 писал(а):
Об этом многократно было. См. например

«Про то, как вставлять картинки»

Ещё похоже что Вы и кнопку "Вставка" не освоили...

Нет, не освоил. Тему прочел, загрузил скриншот в хостинг картинок (пробовал несколько), вставил ссылку между тегами - "не определен размер файла". ЧЯДНТ?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение17.02.2023, 12:58 
Аватара пользователя


29/04/13
7538
Богородский
Скорее всего ссылка не та. Она должна заканчиваться, например, на .jpg . Или другой характерный картиночный формат...

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 349 ]  На страницу Пред.  1 ... 14, 15, 16, 17, 18, 19, 20 ... 24  След.

Модератор: Модераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group