2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1 ... 10, 11, 12, 13, 14, 15, 16 ... 24  След.
 
 Re: Еще раз про сильный ИИ
Сообщение06.12.2022, 03:42 


05/12/14
21/07/24
252
mihaild в сообщении #1572629 писал(а):
Неправда. Вот у меня стоит на столе компьютер, шумит вентилятором, рассеивая поступающую из розетки энергию.

Более того, компьютер у нас не только неравновесная, а ещё и диссипативная система. Вот определение:
Цитата:
ДИССИПАТИВНЫЕ СИСТЕМЫ
(от лат. dissipatio - рассеяние, разрушение) динамич. системы, у к-рых полная механич. энергия (сумма кинетич. и потенц. энергий) при движении непрерывно уменьшается (рассеивается), переходя в др., немеханич. формы энергии (напр., в теплоту). Примерами Д. с. могут служить твёрдые тела, между к-рыми действуют силы сухого или жидкостного трения; вязкая среда, в к-рой напряжения зависят от скоростей деформации, и т. д. В физике понятие Д. с. часто распространяют на немеханич. системы, в к-рых происходит уменьшение энергии упорядоченного движения. Напр., в колебат. контуре, обладающем активным (омическим) сопротивлением, свободные колебания электрич. тока затухают вследствие расхода энергии на выделение джоулевой теплоты. Строго говоря, все системы в земных условиях следует считать Д. с.

Диссипативные системы - Cловари и энциклопедии на Академике.

То же самое, что в цитате выделено жирным, можно сказать и про неравновесность, так как все системы более или менее неравновесные. Только это тривиальный факт, и сам по себе он означает лишь то, что во всех системах есть какие-то напряжения и флуктуации. Но если на макроуровне они на работу системы значимого влияния не оказывают, то, соответственно, как целое эта система будет находиться в состоянии равновесия, будет равновесной.

А вот если обмен системы со средой носит настолько интенсивный характер, что динамика элементов системы хаотическая, то возможна их самоорганизация именно "неравновесного" характера (по-другому, диссипативная самоорганизация). Хаос связан с постоянными переходами через точку бифуркации, а в точке бифуркации чувствительность системы абсолютная (согласно определению), поэтому хаос - это чувствительность, а значит неустойчивость, что, в свою очередь, и есть "неравновесность". В результате мы имеем "открытую термодинамически неравновесную" систему.

В которой самоорганизация - это, соответственно, уже "неравновесный" фазовый переход - поведение элементов системы не утрачивает активности, но скачком становится согласованным. Общая причина этого перехода в том, что упорядоченное состояние энергетически выгоднее системе, так как согласованное движение элементов позволяет быстрее выводить активно поступающую в систему энергию. Легче выделить разнонаправленные потоки и развести их, чем постоянно сталкиваться.

Непосредственно самоорганизация связана с ростом флуктуаций. Рост интенсивности обмена со средой ведёт к росту количества бифуркаций или, другими словами, растёт количество и сила флуктуаций, развивающихся внутри системы аналогично обрушению кучи песка или сходу снежной лавины (простые примеры неравновесных систем). Во взаимодействии этих флуктуаций, то есть, по сути, конкуренции за возможность своего дальнейшего развития, какие-то направления движения элементов взаимно подавляются, какие-то, наоборот, взаимно усиливаются.

В результате в масштабе всей системы сами собой будут выделяться некоторые глобальные направления динамики элементов, в какой-то момент все элементы системы фактически одновременно и сразу со всех сторон системы придут в упорядоченное движение по этим отобранным глобальным направлениям. Произойдёт неравновесный фазовый переход. Вся система, как одно целое, перейдёт через точку бифуркации в качественно новое, упорядоченное состояние. После чего уже все происходящие в системе флуктуации будут или работать на поддержание возникшего порядка, или подавляться массами согласованно движущихся элементов.

Это описание самоорганизации ячеек Бенара и подобных систем, но в целом суть самоорганизации одна и та же. Вот, что пишет Пригожин:
Цитата:
«Однако пока величина градиента температуры не превышает некоторого критического его значения, эти флуктуации гасятся и исчезают. Напротив, когда величина градиента температуры превышает его критическое значение, амплитуда некоторых флуктуаций возрастает, что в конечном счете приводит к формированию макроскопического потока. В результате возникает новый надмолекулярный порядок, по существу представляющий собой гигантскую флуктуацию, стабилизируемую благодаря обмену энергией между системой и окружающей ее средой. Это и есть порядок, характеризуемый наличием в системе диссипативных структур.»

«Время, структура и флуктуации». Нобелевская лекция по химии. И. Пригожин, 1977.

И наконец можно обратить внимание, что поведение имеет две неотделимых друг от друга стороны. Как организованное целое система может существовать только в неравновесном состоянии, а неравновесие - это чувствительность, неустойчивость и активность (состояние "на грани хаоса и порядка"). И вторая сторона - это постоянное стремление к равновесию, которое характеризует любую систему. Только теперь это стремление бесконечно, пока есть достаточный приток энергии. В итоге, получается, бесконечное движение через неравновесие к равновесию, через активность к покою. Это движение столь же сложно организовано, насколько сложно организована сама система, поэтому со временем оно становится движением через риск к славе, через труд к успеху. Но любой успех всегда оборачивается движением к новой цели, и так бесконечно, потому что в неравновесном состоянии покой невозможен.
***

В отношении "диссипативности" то же самое, что с неравновесностью. Поэтому я специально уточнял ранее, что диссипативные системы имеются в виду "по Пригожину", то есть обмен со средой должен приводить к уменьшению энтропии. В компьютере же энтропия только растёт - быстрее или медленнее, но растёт. И сразу же после гипотетической компьютерной кристаллизации она тоже опять растёт. В то время как диссипативные системы вечны, пока есть необходимый уровень обмена со средой.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение06.12.2022, 09:55 


12/08/13
942
mihaild в сообщении #1572629 писал(а):
Изобретение снасти - это тоже "внетелесно".
Более обще - потому что люди полетели в космос, а обезьяны нет, не потому, что люди лучше различают запахи.

Ок, про снасть пока отложим, я подумаю о связях критериев проверки изобретения и понятия "внетелесности".
А вот про более общий ответ...
- Люди полетели в космос потому, что умеют обсуждать худ. лит.?
- По каким соображениям именно полёт в космос выбран как целевая функция?
- Предложенный тест Тьюринга со студентом Физтеха в качестве жюри проверяет только коммуникативные способности кандидата в General AI. Следует ли считать прохождение теста свидетельством того, что кандидат, пройдя этот тест и будучи растиражирован в достаточном количестве, за обозримое время полетит в космос и докажет гипотезу Римана? (Это не полемика, а полуриторическая фраза - попытка сообразить, чего же именно мы ждём от General AI).

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение06.12.2022, 19:38 


01/09/14
439
mihaild в сообщении #1572711 писал(а):
talash в сообщении #1572700 писал(а):
Получается, по этому определению, что, натренировав Narrow AI решать очередную узкую задачу, мы тем самым якобы движемся к созданию General AI?
"Натренировав" в смысле "создав модель, решающую задачу, которую раньше решать не умели". От того что я обучу сеть на MNIST'е десять раз, естественно, ничего не изменится.

Я поинтересовался, можете ли уточнить критерии, как можно определить прогресс в AGI, но тут только общие слова. Нет даже намёка, как можно посчитать хотя бы примерно процент прогресса.

Я считаю, что прогресса в AGI нет вовсе. Можно считать иначе, но если не предоставить чёткие обоснованные критерии по которым можно верифицировать прогресс, то это будет просто интуитивное мнение.

-- 06.12.2022, 18:57 --

В телеграмм-канале есть якобы разработчики AGI, как минимум 46 человек.
Изображение
Это забавно, учитывая нулевой прогресс в этой области. Интересно, чем они занимаются?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение07.12.2022, 06:33 


12/07/15
3065
г. Чехов
talash в сообщении #1572879 писал(а):
Я считаю, что прогресса в AGI нет вовсе.

Неудивительно. Вы можете ждать индивидуальные автомобили-самолеты или продление молодости, но не получить их. Между тем, такие вещи существуют.

Вам срочно нужно пофилософствовать на тему "Что я в этом мире не понимаю?". Надо не 46 человек спросить, а задать вопрос самому себе.

Или меня спросите, но это будет скучное про проблему повторения сенсомоторного опыта человека...

-- 07.12.2022, 08:47 --

Сильные данные vs сильный интеллект
https://habr.com/ru/sandbox/142304/

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение07.12.2022, 13:07 
Заслуженный участник
Аватара пользователя


16/07/14
8807
Цюрих
Dicson в сообщении #1572750 писал(а):
Но если на макроуровне они на работу системы значимого влияния не оказывают, то, соответственно, как целое эта система будет находиться в состоянии равновесия, будет равновесной.
Вот, уже появилась "значимость влияния", раньше отличия были качественными, а не количественными.
Теперь осталось всего лишь придумать, как их точно измерять, измерить для компьютера и для человека и показать, какой именно уровень неравновесности необходим.
Кстати, а гипотетические инопланетяне, которые в 100 раз умнее человека (что бы это ни значило), могут создать кремниевый компьютер, который будет в 2 раза умнее человека?
diletto в сообщении #1572773 писал(а):
- Люди полетели в космос потому, что умеют обсуждать худ. лит.?
Нет, но умение художественную литературу и способность полететь в космос работают на одном и том же.
diletto в сообщении #1572773 писал(а):
По каким соображениям именно полёт в космос выбран как целевая функция?
Это не целевая функция, это просто хороший пример, что могут люди, чего ни один другой вид не может и не сможет, пока не обзаведется чем-то похожим на интеллект.
diletto в сообщении #1572773 писал(а):
Следует ли считать прохождение теста свидетельством того, что кандидат, пройдя этот тест и будучи растиражирован в достаточном количестве, за обозримое время полетит в космос и докажет гипотезу Римана?
Я могу себе представить ситуации, когда не сможет, но они выглядят довольно экзотическими. Я бы ожидал, что если система, способная длительное время притворяться человеком по видеосвязи, и не сможет сама за счет масштабирования доказать гипотезу Римана, то появление системы, которая сможет, произойдет вскоре после появления системы, которая будет способна.
talash в сообщении #1572879 писал(а):
Я считаю, что прогресса в AGI нет вовсе. Можно считать иначе, но если не предоставить чёткие обоснованные критерии по которым можно верифицировать прогресс, то это будет просто интуитивное мнение.
Можете привести пример какой-нибудь сложной задачи, в которой есть прогресс, и указать критерии, по которым его можно верифицировать?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение07.12.2022, 16:11 


01/09/14
439
Mihaylo в сообщении #1572940 писал(а):
Сильные данные vs сильный интеллект
https://habr.com/ru/sandbox/142304/

Начал читать. Там тот же бред от человека, не различающего факты и гипотезы. Больше 1000 сообщений бреда уже здесь нафлудил.

-- 07.12.2022, 15:37 --

mihaild в сообщении #1572967 писал(а):
talash в сообщении #1572879 писал(а):
Я считаю, что прогресса в AGI нет вовсе. Можно считать иначе, но если не предоставить чёткие обоснованные критерии по которым можно верифицировать прогресс, то это будет просто интуитивное мнение.
Можете привести пример какой-нибудь сложной задачи, в которой есть прогресс, и указать критерии, по которым его можно верифицировать?

В чём смысл, может там тоже имитация деятельности, как в русском сообществе AGI? Если есть желание заниматься реальным делом, то параллельно должна идти конкретизация задачи с постепенной выработкой всё более точных критериев(принципов), по которым будет происходить верификация прогресса. Вы же сами в начале темы выдвигали аналогичные просьбы к утверждению, что "AGI не может быть создан". А в обратную сторону такая же просьба, к сторонникам тезиса, что "AGI может быть создан и уже в процессе" и уточнения нету. Те же общие фразы и попытки косвенно доказать, что цифр быть и не должно.

Я в свою очередь могу уточнить критерии по которым может определяться прогресс в AGI, по крайней мере показать путь как будем считать примерные цифры прогресса. Сильно углубляться смысла нет, пока нет команды и потенциала найти финансирование.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение07.12.2022, 17:23 
Заслуженный участник
Аватара пользователя


16/07/14
8807
Цюрих
talash в сообщении #1572983 писал(а):
В чём смысл, может там тоже имитация деятельности, как в русском сообществе AGI?
Смысл в том, что мне непонятно, что вы понимаете под "верификацией прогресса". Поэтому прошу привести пример (это должно быть сильно проще, чем определение).

Задачи, которыми я занимаюсь, я считаю важными и сами по себе, независимо от того, ведут они к AGI или нет. И я считаю, что сейчас заниматься задачами, про которые заявляется, что нужны они только для AGI, и на более ранних этапах они ничего не дадут, не нужно.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение08.12.2022, 00:00 


01/09/14
439
mihaild в сообщении #1572993 писал(а):
Смысл в том, что мне непонятно, что вы понимаете под "верификацией прогресса". Поэтому прошу привести пример (это должно быть сильно проще, чем определение).

Наиболее общее определение из английской вики:

Общий искусственный интеллект (AGI) — это способность интеллектуального агента понимать или изучать любую интеллектуальную задачу, с которой может справиться человек.

Поскольку человек прошёл длинный эволюционный путь от самого простого животного, то прогресс в AGI логично мерять способностью агента к выполнению задач, которые могут выполнять животные. Чем выше организовано животное, тем более сложные задачи оно может выполнять. Можно утвердить шкалу прогресса вплоть до конкретных цифр. Далее запускать AGI-агентов в искусственную среду и проверять могут ли они делать то, что могут животные. Набор тестов заранее не определён, всегда могут быть придуманы и введены новые, если животные их пройдут.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение08.12.2022, 00:46 
Заслуженный участник
Аватара пользователя


16/07/14
8807
Цюрих
talash, проблема в том, что этот тест человек не пройдет. Лично я затрудняюсь сделать то, что через минуту сделает мой кот (и даже угадать это).

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение08.12.2022, 04:18 


10/03/16
4255
Aeroport
Doctor Boom, извините за запоздалый ответ.

Doctor Boom в сообщении #1572065 писал(а):
вы описываете именно сигналы, а не квалиа. Квалиа синего цвета - это именно ощущение "синевости"


Верна ли, с Вашей т.зрения, такая аналогия: я прохожу игру, на экране дорога, по которой идет ГГ, слева лес, справа деревня. Махровый Материалист говорит: стоп, какая деревня, какой лес -- есть только сигналы через hdmi монитора. На что я возражаю, что, в его терминах невозможно ни проходить игру (нельзя за короткое время понять по сигналам в кабеле, что они кодируют на экране), ни рассказать о ней кому-то. Вот эти образы на экране, будучи высокоуровневыми функциями низкоуровневых сигналов, и есть квалиа -- это так? Или квалиа не считается полностью завязанной на нейронные импульсы -- типа, есть что-то ещё, и вот оно + нейронные импульсы дает квалиа?

-- 08.12.2022, 04:20 --

Doctor Boom в сообщении #1572065 писал(а):
у куклы, которая кричит при дергании за ниточку, никаких субъективных ощущений нет


Это постулат или это утверждение как-то выводится? (я знаю, что оно достаточно часто встречается в философии сознания)

-- 08.12.2022, 04:39 --

Dicson в сообщении #1572103 писал(а):
машинам всё равно, живы они или нет (гулите гомеостаз). То есть у них нет встроенного ещё на физическом уровне активного стремления к самосохранению


Мой коптер орет при попытке (притворной) влепить его в стену. Шах и мат.

-- 08.12.2022, 05:08 --

Dicson в сообщении #1572483 писал(а):
Это обобщение по многим высказываниям темы. Поэтому оно было без конкретных имён.


Проще говоря, это очередное враньё.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение08.12.2022, 05:23 


10/03/16
4255
Aeroport
Dicson в сообщении #1572588 писал(а):
Компьютер - это равновесная система, там возможны только равновесные фазовые переходы - та же кристаллизация. Но нам нужен неравновесный переход - тот, который приводит к появлению диссипативной структуры (и, соответственно, гомеостаза), чем является жизнь. Такие переходы возможны только в открытых термодинамически неравновесных системах, то есть прежде должен быть режим, в котором элементы системы взаимодействуют хаотически (некогерентно). Чтобы компьютер стал такой системой, его нужно как минимум расплавить.


Вот кстати наглядный пример: когда философия определяет, какими свойствами должен обладать объект -- она опирается не на постановку задачи (чё хотим от объекта?), а на длиннющие логические цепочки, теряющиеся во тьме гегелианства или ранее. Определение обрастает кучей не имеющих никакого значения "рюшечек", в результате чего объект становится либо несуществующим, либо тривиальным, либо бесполезным. Если философу поменять дверь в туалет с коричневой на белую, он скажет, что теперь туалет уже не туалет, ибо туда должна вести по определению коричневая дверь.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение08.12.2022, 05:53 


05/12/14
21/07/24
252
mihaild в сообщении #1572967 писал(а):
Вот, уже появилась "значимость влияния", раньше отличия были качественными, а не количественными.

Нет, ничего нового не появилось. Отличия как были, так и остались качественными. В одном случае флуктуации приводят к увеличению энтропии, а в другом - к её уменьшению. Это самое что ни на есть качественное отличие систем. В одном случае флуктуации разрушают порядок, в другом - его создают. Рост интенсивности обмена со средой и увеличение количества флуктуаций должны полностью разрушить первую систему, прежде чем из неё хотя бы в принципе сможет возникнуть вторая. И наоборот, данные факторы являются основой существования второй системы, поэтому только их уменьшение до её полного разрушения позволит создать из получившегося материала что-то типа системы первой. Это пропасть, а не отличие.

mihaild в сообщении #1572967 писал(а):
Теперь осталось всего лишь придумать, как их точно измерять, измерить для компьютера и для человека и показать, какой именно уровень неравновесности необходим.

Не только неравновесность важна. Песчаная куча, готовая осыпаться, тоже неравновесная система. Но она просто осыпется, её энтропия после осыпания не уменьшится, порядка не возникнет. Чтобы он возник, неравновесная система должна быть термо-динамическая. Для "динамичности" нужна открытость, а для перехода к порядку интенсивность обмена со средой должна быть столь высокой, что её поведение должно быть хаотическим, система должна "состоять" из флуктуаций. Только в таких системах возможен неравновесный фазовый переход, гомеостаз и эволюция. См. предыдущий пост.

mihaild в сообщении #1572967 писал(а):
Кстати, а гипотетические инопланетяне, которые в 100 раз умнее человека (что бы это ни значило), могут создать кремниевый компьютер, который будет в 2 раза умнее человека?

Если разница между системами принципиальная, то, естественно, не смогут. Чтобы было понятнее, ваш вопрос можно сначала сформулировать иначе. Можно ли "в кремнии" выразить сложность поведения нейрона? Не более или менее упрощённо, как в любой модели, а именно полностью? Ведь наш "кремний" должен выразить всю сложность работы мозга и даже превзойти её.

Нет, нельзя, так как это равносильно точному предсказанию поведения системы в точке бифуркации, иными словами, конкретизации всех причин того или иного выбора системы в этой точке.

Бифуркация - это качественное изменение поведения динамической системы при бесконечно малом изменении её параметров. Представление о системе на таком уровне точности можно получить, только описав её на элементарном уровне материи. Но представление об элементарном уровне материи не имеет смысла, поэтому задать его программно невозможно. Однако порядок в хаосе возникает именно как переход через точку бифуркации, при этом нормальная активность одиночного нейрона представляет собой динамический хаос, а в мозге происходит их синхронизация на разных ритмах (то есть возникает упомянутый порядок в хаосе - уменьшается энтропия, появляется информация).

Связь с элементарным уровнем материи означает, что мозг работает на "иных физических принципах", чем те, которые нам известны. Например, чтобы качественно сложность мозга превзойти, система должна оперировать на ещё более глубоком уровне материи, чем мозг, то есть работать на принципах, качественно более сложных (по мере продвижения вглубь материи сложность теорий растёт, это одно из следствий движения познания в сторону "бессмысленного" элементарного уровня материи). Но связь работы мозга с элементарным уровнем материи говорит о том, что система качественно сложнее, по-видимому, уже невозможна - нет уровня материи глубже, чем тот, с которым связано мышление. Наоборот, чтобы превзойти сложность мозга только лишь "количественно", достаточно тех же физических принципов. Например, мозг человека только "количественно" сложнее мозга обезьяны или насекомого, исходя из того, что по принципу работы - это одни и те же системы.

Таким образом, принципиальная возможность описания работы вычислительных систем - и наоборот, принципиальная невозможность описания мышления - говорит о том, что уровень материи, на котором оперируют вычислительные системы, менее глубокий, чем уровень мышления. Физические принципы работы вычислительных систем нам понятны, а значит, в отличие от принципиально непознаваемых физических принципов работы мозга, связанных с элементарным уровнем материи, это принципы более простые, уровня сложности мозга с их помощью не достичь.

Как следствие этой простоты, по мере усложнения мозга животного возможности "кремния" будут всё больше отставать. Например, сможем ли мы воссоздать "в кремнии" муху? Нет, всё богатство и сложность поведения мухи мы воспроизвести не сможем. Например, относительно легко получить материал, по лёгкости и прочности сравнимый с костью животного. Но трудности совсем иного масштаба возникнут в стремлении добиться того, чтобы искусственная кость могла расти или срастаться после повреждений. То же и с мозгом мухи.

Но мы сможем сделать систему, которая будет делать то, что не могут мухи. Переводить, считать, классифицировать, играть в го и т. п.. Потому что любая система, сколь бы сложной и непознаваемой для нас она ни была, тем не менее имеет какое-то определённое устройство, а значит, имеет специализацию, область применения, за пределами которой превзойти её сможет и система несравнимо более простая.

Точно так же гипотетические представители внеземных цивилизаций, обладающие более высоким интеллектом, то есть способные к более высоким уровням абстракций и соответствующей сложности тактике и стратегии поведения, вероятно, могут построить вычислительную систему, функции которой мы сможем понять столь же ограниченно, как ограниченно человекообразная обезьяна способна понять функции смартфона. Но это не значит, что вычислительная система инопланетян будет сложнее нашего мозга или что смартфон сложнее мозга обезьяны. Поэтому если эти инопланетяне захотят воссоздать мышление человека во всей его сложности, со всем присущим человеку богатством поведения, то они так же потерпят неудачу, как и мы в попытке воссоздать сложность поведения нейрона, мухи или обезьяны, хотя инопланетяне и смогут приблизиться к сложности человека, нейрона, мухи или обезьяны ближе, чем это сможет человек.

(Ещё)

Можно обратить внимание, что элементарный — это единственный уровень материи, который в принципе невозможно описать. И сознание (квалиа) тоже невозможно описать. Зато, по-видимому, именно по этой причине нам доступны бесконечности как целое - потому что "язык" мозга сильнее любого языка человека (ведь "язык человека" - это только часть всей сложности работы мозга). При этом сознание - это многомодальный континуум абстракций разного уровня. Все эти свойства сознания, кроме многомодальности, тоже непосредственно следуют из физических особенностей работы мозга. Включая ощущение своего "протяжённого" существования во времени (а не в его бесконечно кратком миге, например). Вопрос свободы воли тоже становится понятен, хотя ответ необычный.


Mihaylo в сообщении #1572940 писал(а):
Сильные данные vs сильный интеллект https://habr.com/ru/sandbox/142304/

Как я понял, в статье имеется в виду (хотя это и не написано), что обучает нейронную сеть сразу всё человечество в лице того же интернета и собранных в нём знаний. Поэтому, как кажется, по крайней мере в принципиальном смысле, ничего не должно помешать ИИ стать умнее человека. Ведь всё человечество, как целое, сложнее каждого отдельного человека, а значит, и создать человечество сможет более сложную систему, чем человек сам по себе. Мол, нужна только нейронная сеть побольше и данные. С масштабированием сетей, по мнению автора, проблем нет, а вот данных не хватает, так как не все данные можно найти в интернете. Под недостатком данных автор имеет в виду невозможность получить в интернете сенсомоторный опыт, для которого нужны соответствующие рецепторы и реальный мир (виртуальная реальность будет сильным упрощением реальности).

Во-первых, в статье как бы само собой подразумевается, что нейронные сети необходимой сложности уже где-то есть, осталось только их обучить. Однако таких сетей нет. Но главное, что разрабатывает системы ИИ и оценивает их обучение уже именно человек, а не "знания в интернете". Поэтому, сколько бы данных ни было, сложность создаваемых систем всё равно будет ограничена сложностью интеллекта человека.

ozheredov в сообщении #1573041 писал(а):
Мой коптер орет при попытке (притворной) влепить его в стену.

И как это относится к гомеостазу?

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение08.12.2022, 06:47 


12/07/15
3065
г. Чехов
talash в сообщении #1573030 писал(а):
Поскольку человек прошёл длинный эволюционный путь от самого простого животного, то прогресс в AGI логично мерять способностью агента к выполнению задач, которые могут выполнять животные. Чем выше организовано животное, тем более сложные задачи оно может выполнять. Можно утвердить шкалу прогресса вплоть до конкретных цифр. Далее запускать AGI-агентов в искусственную среду и проверять могут ли они делать то, что могут животные. Набор тестов заранее не определён, всегда могут быть придуманы и введены новые, если животные их пройдут.

Детский сад, получается. Вы не понимаете простой вещи - это никому не надо - растрачивать электроэнергию впустую. Людям нужна имитация человека, а не эта хрень, якобы, во имя науки. Я вас уверяю, тут ничего интересного для науки нет. Просто оптимизационные задачи разной сложности.

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение08.12.2022, 07:33 


10/03/16
4255
Aeroport
Dicson в сообщении #1573045 писал(а):
И как это относится к гомеостазу?


Это относится к отсутствию стремления выжить у машин. То есть, это раскрытие Вашего очередного вранья. К гомеостазу никак.

Кстати, Вы собираетесь отвечать за предыдущее враньё?

"Это обобщение по многим высказываниям темы. Поэтому оно было без конкретных имён."

 Профиль  
                  
 
 Re: Еще раз про сильный ИИ
Сообщение08.12.2022, 08:00 


12/07/15
3065
г. Чехов
talash в сообщении #1573030 писал(а):
Далее запускать AGI-агентов в искусственную среду и проверять могут ли они делать то, что могут животные.

И да, ещё вот это: представление об ИИ, как некой штуке, которая "запускается в искусственную среду", крайне удивит учёных. Во-первых, в современном представлении отошли от понятий реальных/искусственных сред, так как оптимизационные задачи не ограничиваются физическими системами (но диванным теоретикам понятнее именно такое). Во-вторых, если вы читали ту статью про сильные данные и сильные интеллекты, то должны были понять, что искусственная среда - это и есть сенсомоторный опыт. Воссоздать эту среду - почти невозможно. Это проблема.
А вот создать алгоритм, это сейчас вон на коленке быстро, в Пайтоне, в 11 строк.
https://habr.com/ru/post/271563/

Для понимания ИИ нужно начать работать с нейросетями. И тогда я посмотрю, когда у вас в ассортименте будет тысяча библиотек нейросетей, градиентного бустинга, случайного леса и прочих ML-алгоритмов, но будут отсутствовать данные для обучения. :twisted:

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 349 ]  На страницу Пред.  1 ... 10, 11, 12, 13, 14, 15, 16 ... 24  След.

Модератор: Модераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group