2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки


Правила форума


В раздел Пургаторий будут перемещены спорные темы, относительно которых администрация приняла решение о нецелесообразности продолжения дискуссии.
Причинами такого решения могут быть, в частности: безграмотность, бессодержательность или псевдонаучный характер темы, нарушение автором принципов ведения дискуссии, принятых на форуме.
Права на добавление сообщений имеют только Модераторы и Заслуженные участники форума.



Начать новую тему Ответить на тему На страницу Пред.  1, 2, 3, 4, 5, 6 ... 14  След.
 
 Re: Симуляция животных по Outer
Сообщение17.02.2024, 14:14 


31/01/24
757
Outer в сообщении #1629879 писал(а):
то что Вы здесь пишете - очевидная глупость.


То, что я здесь пишу - это очевидная банальность из социологии. Для социологии важны, выражаясь Вашим языком, именно только связи внутри общества, а не его элементы, которые изучаются другими науками, будь то психология (если мы про людей), или социокультурная антропология и культурология (если мы про социальные и культурные сообщества).

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение18.02.2024, 23:49 


05/12/14
255
Dmitriy40 в сообщении #1629824 писал(а):
Это был контрпример к утверждению что принципиально невозможно самоусложнение систем. Собственно вся биосфера тому прямой контрпример, самоусложнилась из простейших химических соединений.
И самоусложнение вовсе не привилегия лишь живого - игра Конвея "жизнь"
самоусложняется только так, а это уже полностью искусственное.

Кому "контрпример"? Я тоже не говорил, что самоусложнение систем невозможно. Например, в предыдущем посте я написал про обучение искусственных нейронных сетей. Обучение - это усложнение, и оно может идти без человека. Аналогично с клеточным автоматом. Только я там и ещё кое-что написал. О том, что биологическая эволюция и усложнение клеточных автоматов не одно и то же, потому что это принципиально разные системы. Что доступно одним, недоступно другим. Эволюция - это усложнение гомеостаза, так как жизнь - это диссипативные структуры. У ИИ нет гомеостаза, поэтому без нас ИИ может только разрушаться, а его усложнение быстро приобретёт характер бессмысленных изменений, так как связь со средой у этих систем качественно разная. Этот пост тоже по этой теме.

Dmitriy40 в сообщении #1629734 писал(а):
А ничего что коллектив людей сложнее одного человека и может решать более сложные задачи? Например ни один человек не в состоянии изготовить даже паршивый электронный калькулятор (не на лампах) с самого нуля, коллектив же создаёт и на порядки более сложные устройства. Создание же коллектива людей не намного сложнее создания одного человека. Т.е. с ростом количества людей в коллективе сложность решаемых задач растёт, а порог для создания этого же коллектива остаётся практически постоянным и потому неизбежно будет превышен? "Специализация? не, не слышали".
Так что аргумент сложности преодолевается. Пусть не прямо вот сейчас, принципиально.

Про специализацию мы слышали. Тем не менее "аргумент сложности" ни сейчас не преодолевается и никогда не преодолеется. И это как раз принципиально. И к счастью, я бы добавил.

Коллектив или отдельный человек, то, что ими создаётся, - это алгоритмы. Охота на мамонтов, постройка пирамид, заводов, работа компьютеров, искусственных нейронных сетей или клеточных автоматов, математические или физические теории - это те или иные алгоритмы.

Однако никаким алгоритмом работу мозга не выразить. Обосновать это можно по-разному. Например, через физические свойства таких систем, как ячейки Бенера. Но если для простоты взять именно наш мозг (собственно, он нас сейчас и интересует), то это можно сделать следующим образом.

Какие-либо представления, в том числе о каких-либо алгоритмах, сложности или простоте, естественно, лежат в пределах сложности нашего интеллекта, они возникают в мозге, то есть эти идеи являются некоторым итогом мышления. Но это значит, что сам процесс мышления сколько-нибудь точно ни в каких алгоритмах невыразим. Он сложнее всех мыслимых алгоритмов, обобщает их, является их источником.

Столь же ограниченно применимы к мозгу идеи о сложности или простоте. Вспомните о "красноте красного". Всего лишь цвет, что может быть проще. Но никаким языком красноту красного не выразить. Бесконечная сложность и предельная простота одновременно. Точно так же невыразимы языком эмоции или самоощущение, обобщающие любое более конкретное содержание сознания. Образно говоря, точное, ясное, формальное, конкретные образы, которые мы наблюдаем, - это только гребни волн океана мышления, ни в чём конкретном невыразимого.

Говоря по-другому, не может быть такого языка, на котором бы можно было описать работу мозга, ведь любой язык это тоже некоторый итог работы мозга, поэтому сама работа мозга сколько-нибудь точно языком невыразима. В свою очередь, "не может быть языка" тоже означает, что работа мозга невыразима ни в каких алгоритмах. Точно так же можно сказать, что язык, на котором можно описать работу мозга, должен быть самым богатым, ведь он должен обобщать все мыслимые языки, всё богатство представлений человека, включая цвета, эмоции или самоощущение. Однако самый богатый язык - это язык максимально "не финитистский", то есть максимально не однозначный, не ясный. Проще говоря, не язык, так как он должен быть максимально далёк от привычного нам содержания языков. Тем не мене всё верно, чтобы описать неописуемое, нужно выйти за рамки описания. В итоге то же самое: мышление больше, чем алгоритм, чем язык, сложнее, чем что-либо самое сложное, потому что всё это внутри него.

Поэтому, действительно, вы правы, вряд ли один человек сможет в точности запомнить все алгоритмы, которые требуются для постройки большого сложного промышленного предприятия. Однако наш опыт качественно сложнее, чем все мыслимые алгоритмы, он обобщает их в своей сложности, за счёт чего мы можем формировать глобальные стратегии, которые затем уже делить на конкретные шаги алгоритмов или подыскать специалистов под каждый шаг, а затем оценить их работу. ИИ лучше нас играет в го, но придумали эту игру мы, и оценить его выигрыш тоже можем только мы. Потому что только мы можем вписать эту игру, ИИ и его победу в глобальную стратегию самосохранения, где всё имеет своё значение, так как всё наше поведение подчинено ей. У ИИ нет никаких стратегий, потому что ему всё равно куда двигаться. И иное невозможно, так как работа ИИ имеет в основании наши алгоритмы, но они только простая часть нашего опыта.

В итоге мы всегда ведём, а ИИ, калькуляторы и экскаваторы - ведомые. ИИ - это не интеллект, это механизм "с элементами интеллекта". Он всегда будет качественно проще интеллекта реального, сколько бы он ни "знал". Функция естественного интеллекта ставить задачи и решать их (управлять мышцами в реализации стремления к самосохранению), и ИИ в этом всего лишь очередной помощник.

mihaild в сообщении #1629738 писал(а):
Многократно экспериментально опровергнутое утверждение.

Выключенные компьютеры без обмена со средой веществом разрушаются? Как ячейки Бенара? А включённые могут существовать вечно, пока есть обмен? Или вы что-то другое имели в виду?

mihaild в сообщении #1629738 писал(а):
Начните со строгого определения сложности.

В какой конкретно области знания, теории, по-вашему, находится строгое определение сложности? Общее такое: "Сложность - характеристика, отражающая степень трудности для понимания, создания и верификации системы или элемента системы[1]; степень трудности понимания и решения проблемы, задачи. Сложность системы или элемента системы может быть выражена через сложность соответствующих проблем и задач их понимания, создания и верификации."

По-моему, вполне достаточно. Если же вы имеете в виду что-то типа вычислительной сложности и количества шагов, необходимых для решения отдельной задачи, то зачем так уточнять? Что это поможет вам аргументировать? Вы опять хотите предложить мне сформулировать конкретную задачу, которую бы ЕИ решить смог, а ИИ не сможет никогда? И тем самым строго доказать, что ИИ не может быть сложнее ЕИ? Однако я уже пояснял. Доказательство существования такой задачи будет равносильно построению алгоритма её решения. Но тогда, как минимум в принципиальном смысле, и ИИ её решить тоже сможет. Он же алгоритм. Наоборот, то, что не может ИИ, лежит за рамками алгоритмов, поэтому доказательства возможны тоже только общего характера, а не строгие расчёты. Общего представления о сложности в этом случае вполне достаточно.

mihaild в сообщении #1629738 писал(а):
Обоснуйте.

Невозможность создания ИИ, приближающегося по сложности к ЕИ, - это проблема, имеющая глобальный смысл пределов познания, каковые проявляются в том числе и в ограничении сложности создаваемых человеком систем. Поэтому подтверждение того, что сложность создаваемых человеком систем всегда будет ограничена сложностью интеллекта самого человека, можно увидеть в аргументах логического, практического и физического характера, то есть наблюдать со всех возможных точек зрения. Одна из таких точек зрения была выше. Ниже, как вы хотите, ещё одна.

Имея в качестве образца только себя и свои знания, усложнение возможно только одним способом - это приближать ИИ к тому сложному и глобальному пространственному и временному представлению о себе и мире, которым обладает человечество. Но это представление в явном виде недоступно и нам самим, так как формальные, точные знания только наиболее простая часть нашего опыта.

Как следствие, по мере выхода сложности поведения ИИ за рамки того, что мы можем в этом поведении оценить однозначно (например, ответов, которые можно быстро проверить, или точности простых действий), то есть по мере выхода за рамки нашего наиболее формализованного опыта, оценить поведение ИИ будет всё сложнее, и потому это станет требовать всё больше времени. Причём чем сложнее система, тем важнее решаемые ей задачи, они начинают носить стратегический характер с отдалёнными последствиями, которые вообще невозможно оценить быстро. По тем же причинам будет расти количество возможных вариантов устройства систем или вариантов обучения, заранее не имеющих преимуществ друг перед другом. Обобщая, по мере приближения систем к сложности нашего нынешнего опыта по всем параметрам создания систем будет стремительно расти неопределённость. В результате время, необходимое для выбора адекватных систем, будет стремительно расти, приближаясь к бесконечности по мере приближения сложности поведения систем к сложности поведения нас самих. Ведь предел сложности - это мы. Весь мир, вся его сложность, в нашей голове, поэтому приближать сложность ИИ мы можем только к сложности себя, и это приближение бесконечно.

Но необходимость дать поведению ИИ точную оценку тоже будет расти, наоборот, стремясь к требованию полной определённости. Так как чем важнее задачи, тем важнее знать верное ли решение, почему оно именно такое, не связано ли оно с галлюцинациями системы.

Встреча этих противоположных тенденций произойдёт далеко от сложности опыта человека, так как приближение к предельному уровню сложности бесконечно, а развитие ИИ явно конечно, и в целом будет выражаться в том, что дальнейшее усложнение систем ИИ потеряет всякий смысл.

В итоге искусственный интеллект не выйдет за рамки такого помощника человека, который обладает широким кругозором и способен быстро выполнять относительно простую интеллектуальную работу. Потому что по мере роста важности задач эта работа будет всё больше требовать проверки, провести проверку будет всё сложнее, что будет ограничивать применение систем в важных задачах. Можно сказать, что предел усложнения ИИ выражается в том числе в невозможности создать столь сложную систему, доверять которой в случае важных решений выгоднее, чем не доверять.

Outer в сообщении #1629835 писал(а):
Например, можно методами генной инженерии создать модифицированного человека, который будет умнее своих создателей.

Нельзя.

В ДНК не зашифрован план организма, поэтому его нельзя там найти и расшифровать. Честь этого плана "растворена" в среде и возникает в морфогенезе сама собой в ходе самоорганизации посредством реакций Белоусова - Жаботинского. Упорядоченные градиенты концентрации веществ, возникающие в ходе этих реакций, - это разметка формирующегося многоклеточного организма в межклеточном пространстве делящихся клеток зародыша. Эта разметка задаёт дифференцировку клеток в соответствии с функцией органа, затем эти клетки тоже выделяют вещества-морфогены, возникают новые градиенты, и так постепенно происходит рост и формирование организма от общего к частному. Эти градиенты те же самые диссипативные структуры, что и ячейки Бенара, или жизнь в целом. Их поведение отличается высокой неопределённостью, устранение которой равносильно принципиальной возможности описать работу мозга, то есть равносильно созданию СИИ, а это всё невозможно - см. написанное в посте выше.

В результате исследования, которые позволили бы вносить точные изменения в геном (и в целом, куда это требуется, вплоть до выращивания "улучшенного человека" в полностью искусственной среде), потеряют смысл задолго до сколько-нибудь близкого приближения к пониманию того, как конкретно происходит морфогенез и как конкретно им управлять. Потому что полностью аналогично попытке создать СИИ в таких исследованиях будет стремительно расти неопределённость. Рост неопределённости суть недостаток данных для выбора конкретной модели из множества возможных. Он означает, что чем ближе мы будем приближаться к пониманию морфогенеза, тем больше будет требоваться экспериментов, чтобы эти данные получить. А длительность экспериментов при этом будет расти, так как проверять, что из себя представляет очередной образец "улучшенного человека" как минимум долго, потому что заранее неизвестно, когда и что из него вылезет. В свою очередь, продолжение исследований, наоборот, будет требовать всё большей определённости, то есть уменьшения количества экспериментов, потому что представьте в таких исследованиях "неудачные попытки", их этическую сторону или их возможную опасность, если "неудачная попытка" будет агрессивной. В итоге генная инженерия потеряет смысл задолго до возможности создания "улучшенного человека".

"Улучшенного человека" не создать даже наугад, методом случайного тыка в геном. Этому помешает старая среда, от среды клетки или среды утробы, которая не позволит появиться чему-то действительно сильно отличному от нынешнего человека (мозг не сам по себе в организме существует, поэтому его изменения - это более или менее изменения всех систем организма). В том числе созданию помешает среда старых методов воспитания, обучения или среды бытующих в обществе представлений, которые, как в случае маугли, не позволят реализовать интеллектуальный потенциал, а окружающим этот потенциал заметить и оценить. Как и среда клетки или утробы, общество тоже приспособлено под "старого человека", так как состоит из таких людей, в этом контексте оно направляет развитие, а значит, и ограничивает его тоже. Как следствие, случайный тык оказывается слишком близким повторением эволюции, в том числе по времени, при том, что наша эволюция тоже не стоит на месте. Более того, возможности эволюции больше, так как в природе мутации происходят постоянно и не ограничены какой-либо выборкой подопытных. Плюс те же "требования определённости" из-за "неудачных попыток".

Ghost_of_past в сообщении #1629784 писал(а):
Гомеостазис и стремление к самосохранению - мягко скажем, несколько разные вещи. Гомеостазис - это про сохранение физиологического и биохимического равновесия в организме, а самосохранение - про поведение.

А "сохранение физиологического и биохимического равновесия" разве не поведение? Или вы "поведением" только перемещение организма в среде считаете? Гомеостаз.

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение19.02.2024, 00:15 
Заслуженный участник
Аватара пользователя


16/07/14
9090
Цюрих
Dicson в сообщении #1630160 писал(а):
Или вы что-то другое имели в виду?
Выключаем компьютер, ждем год, пытаемся включить - не включается.
Dicson в сообщении #1630160 писал(а):
В какой конкретно области знания, теории, по-вашему, находится строгое определение сложности?
По-моему - в области "фантазии Dicson", нормальные науки сравненим сложности человека со сложностью компьютера, что бы это ни значило, не занимаются. Но можете попробовать привести опровергающую это ссылку.
Dicson в сообщении #1630160 писал(а):
По-моему, вполне достаточно
По-моему нет. Вот у меня на столе лежит кирпич. Исходя из Вашего определения, определите его примерную, с точностью хотя бы до десятичного порядка, сложность.

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение19.02.2024, 00:23 
Заслуженный участник


23/05/19
1147
mihaild в сообщении #1630166 писал(а):
Вот у меня на столе лежит кирпич. Исходя из Вашего определения, определите его примерную, с точностью хотя бы до десятичного порядка, сложность.

Если начать так считать сложность, то не получится использовать
Dicson в сообщении #1630160 писал(а):
доказательства ... только общего характера

(a.k.a. бездоказательные разглагольствования). Придется таки поднапрячься и добавить конкретики. И внезапно окажется, что все стройные железобетонные "доказательства" почему-то рассыпаются.
Поэтому, mihaild, Ваша задача невыполнима:)

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение19.02.2024, 15:30 
Заслуженный участник


20/08/14
11687
Россия, Москва

(Оффтоп)

mihaild в сообщении #1630166 писал(а):
Выключаем компьютер, ждем год, пытаемся включить - не включается.
Меня мучает вопрос о возможных причинах такого, подскажите? Я вспомнил только об окислении контактов. Батарейку биоса исключаем, включится и без неё. Флеш память за год не сдохнет (если не греть весь год заметно выше 100°С), даже самая убогая.

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение20.02.2024, 12:56 


11/10/17
66
Dicson в сообщении #1630160 писал(а):
Outer в сообщении #1629835 писал(а):
Например, можно методами генной инженерии создать модифицированного человека, который будет умнее своих создателей.
Нельзя.

Почему? Берём 100 человеческих зародышей, и удаляем из них 5 которые имеют явные признаки наследственных болезней (например, слабоумие, психопатию и т.д.). Через 25 лет получаем поколение, которое будет в этом смысле более здоровым, чем их предшественники. Потом это поколение эту процедуру повторяет, и так далее.

Dicson в сообщении #1630160 писал(а):
В ДНК не зашифрован план организма, поэтому его нельзя там найти и расшифровать. Честь этого плана "растворена" в среде и возникает в морфогенезе сама собой в ходе самоорганизации
Если это так, тогда почему все эксперименты с разлученными близнецами говорят об обратном? Почему у них бывает одинаковая внешность, одинаковые черты характера, наклонности и т.д.?

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение22.02.2024, 02:51 


05/12/14
255
mihaild в сообщении #1630166 писал(а):
Вот у меня на столе лежит кирпич. Исходя из Вашего определения, определите его примерную, с точностью хотя бы до десятичного порядка, сложность.

Зачем? Мы не можем точно оценить сложность ЕИ как минимум потому, что его работа во многом непонятна, и не можем точно оценить максимально возможную сложность ИИ как минимум потому, что не всё ясно в перспективах его развития. Но на основании того общего и основного, что уже известно об этих системах, мы можем обосновать, что усложнение ИИ требует ЕИ. И далее найти предел усложнения - не количественный, а "по отношению" одних систем к другим. В итоге ничего точное, количественное не нужно. Но аргументы при этом железные. Ни вы их не опровергнете, ни реальность в виде сколько-нибудь обозримого сейчас будущего.

Dedekind в сообщении #1630168 писал(а):
Придется таки поднапрячься и добавить конкретики. И внезапно окажется, что все стройные железобетонные "доказательства" почему-то рассыпаются.

Какую конкретно "конкретику" вы имеете в виду?

Outer в сообщении #1630309 писал(а):
Почему? Берём 100 человеческих зародышей, и удаляем из них 5 которые имеют явные признаки наследственных болезней (например, слабоумие, психопатию и т.д.). Через 25 лет получаем поколение, которое будет в этом смысле более здоровым, чем их предшественники. Потом это поколение эту процедуру повторяет, и так далее.

Удалили явные, а дальше что удалять будете? К тому же вы вроде хотели создать более умного человека, а не просто более здорового. Но это не обязательно связано: "лица, страдающие врождёнными cоматическими дефектами (слабый иммунитет, плохое физическое развитие), могут обладать интеллектуальными качествами, ценными для общества." И одновременно: "слабо изучено наследование многих признаков, которые рассматриваются в современном обществе как отрицательные (пьянство, наркомания и т. д.) и положительные (высокий IQ, крепкое здоровье и т. д.)." Цитаты из: Евгеника. Википедия.

За рамками "явного", то есть того, что можно проверить относительно быстро, начинается всё более прямое повторение эволюции. Высокая неопределённость в поведении биологических систем неустранима, поэтому каждое новое уточнение будет требовать всё большего количества данных и, таким образом, экспериментов. При этом их длительность будет стремительно расти (например, внесение в геном изменений может сказаться только в будущих поколениях или в разных условиях жизни, причём одни и те же изменения могут давать разный эффект совместно с другими), а возможность эти эксперименты поставить будет поэтому столь же стремительно падать, в том числе из этических соображений. Столкновения этих взаимоисключающих тенденций произойдёт задолго до сколько-нибудь точного понимания себя.

Outer в сообщении #1630309 писал(а):
Если это так, тогда почему все эксперименты с разлученными близнецами говорят об обратном? Почему у них бывает одинаковая внешность, одинаковые черты характера, наклонности и т.д.?

ДНК содержит информацию о структуре белков, а не план организма. Упрощённо говоря, ДНК синтезирует одни вещества в ответ на другие вещества. В том числе это вещества-морфогены. Далее у меня написано. А близнецы получаются, потому что у них и ДНК, и условия их развития, по крайней мере до рождения, одинаковые.
Цитата:
"Морфоге́ны, сигнальные молекулы, которые могут менять направление морфогенеза. Морфогеном может быть любое химическое соединение или вещество, которое действует на клетки и вызывает специфический ответ в зависимости от его локальной концентрации.

Морфогенами могут быть, например, факторы транскрипции, взаимодействующие с ДНК, вещества, регулирующие межклеточные взаимодействия, в частности, агрегацию клеток, и др. По мере диффузии морфогенов на раннем этапе развития эмбриона формируется градиент концентрации, который индуцирует или поддерживает экспрессию тех или иных генов и тем самым определяет процесс дифференцировки стволовых клеток.

Термин «морфоген» придумал Алан Тьюринг в 1952 г., а в 1995 г. одним из трёх лауреатов Нобелевской премии по физиологии и медицине стала Кристиане Нюсслайн-Фольхард, чьи исследования объясняли работу морфогена Bicoid (bcd), кодирующего белок, который определяет развитие эмбриона дрозофилы."

Морфогены. Большая российская энциклопедия.

Популярно: Дай пять: как математика управляет развитием пальцев. Биомолекула.

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение22.02.2024, 12:46 
Заслуженный участник
Аватара пользователя


16/07/14
9090
Цюрих
Dicson в сообщении #1630450 писал(а):
Зачем?
Чтобы продемонстрировать, что Ваше понятие "сложность" вообще имеет какой-то смысл. Пока что получается, что Вы говорите о какой-то мифической "сложности", которой не можете дать определение, и которую не можете посчитать даже в простейших случаях. Я уже Вам говорил - прежде чем что-то аргументировать, нужно это сформулировать.
Dicson в сообщении #1630450 писал(а):
Но аргументы при этом железные
Нет, аргументы дырявые, я видел опровержение в хрустальном шаре, а у хрустального шара сепульковость больше.

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение22.02.2024, 12:50 
Заслуженный участник


23/05/19
1147
Dicson в сообщении #1630450 писал(а):
Какую конкретно "конкретику" вы имеете в виду?

Метод подсчета Вашей "сложности". Абсолютной, или относительной - не важно. Главное, хоть какой-то вменяемый воспроизводимый метод.

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение05.03.2024, 01:56 


05/12/14
255
mihaild в сообщении #1630514 писал(а):
Чтобы продемонстрировать, что Ваше понятие "сложность" вообще имеет какой-то смысл. Пока что получается, что Вы говорите о какой-то мифической "сложности", которой не можете дать определение, и которую не можете посчитать даже в простейших случаях. Я уже Вам говорил - прежде чем что-то аргументировать, нужно это сформулировать.

Как вы предлагаете оценивать сложность ЕИ, если ни объём входных данных не может быть известен, ни сам алгоритм, ни решаемые задачи, не могут выделены какие-либо элементарные операции и так далее? Вы хотите возразить, что тогда нет критерия, на основании которого можно обоснованно утверждать, что сложность вот этого ИИ меньше сложности ЕИ? Есть, я вам уже об этом писал. За рамками различных тестов интеллекта (которые всегда неоднозначны, так как всегда оценивают в интеллекте что-то более или менее частное) в конечном итоге останется мнение специалистов. Их общее мнение всегда будет в пользу ЕИ - что ИИ ещё его уровня не достиг. Сейчас очевидно, что ИИ сложности ЕИ ещё не достиг? Вот так же это будет очевидно всегда. То есть самая объективная оценка в данном случае всегда будет не количественной, так как она невозможна, а качественной.

Такой же качественной, как и аргументы в пользу ЕИ. Сложность ЕИ и максимально достижимую сложность ИИ можно сравнивать только по общим параметрам. Считать количественно ничего не надо. Потому что это и невозможно, и в любом случае я не делаю утверждений о том, достигнет или не достигнет какая-либо система какой-либо конкретной сложности. Аргументы основываются на общих свойствах систем и потому носят качественный характер, а не конкретный. И иные аргументы в принципе невозможны, что понятно из предыдущего поста, а также - см. ниже.

Dedekind в сообщении #1630515 писал(а):
Метод подсчета Вашей "сложности". Абсолютной, или относительной - не важно. Главное, хоть какой-то вменяемый воспроизводимый метод.

Считать ничего не нужно. И тем не менее одна система сложнее другой не станет. Вменяемость и воспроизводимость при этом не пострадали - одни и те же выводы следуют, с какой бы точки зрения создание СИИ ни рассматривать. Чистая ли это логика или физические свойства систем, будет выясняться одно и то же - алгоритм в принципе не способен воспроизвести работу мозга, и далее - что системы ИИ всегда будут зависеть от нас, а значит, сложнее нас не станут. См. ниже.
***

Чем богаче поведение, тем сложнее его алгоритм, так как он должен описывать множество вариантов условий и реакций на них. Например, написание прямого (детерминированного) алгоритма, сложность которого равна сложности интеллекта человека, равносильна принципиальной возможности точно моделировать всё возможное будущее всех мыслимых людей сразу. Или, что одно и то же, точному предсказанию поступков самого себя. Но это значит, что столь сложный алгоритм не имеет смысла, потому что выводимыми становятся все утверждения, которые только можно сформулировать, включая противоположные. То же самое можно сказать по-другому. Прямой алгоритм мы пишем на основании точных знаний, но при этом мы знаем точно ещё не всё. В результате прямой алгоритм, сложность которого равна сложности интеллекта человека, равносилен точному знанию всего, что известно человеку, в том числе и того, что точно ещё неизвестно. Но можно ли вообще точно знать всё? Нет, потому что элементарный уровень материи непознаваем - см. выше про выводимость всех утверждений, знание элементарного уровня материи в принципиальном смысле тоже позволит выводить всё. Но нужно ли знать элементарный уровень материи для написания прямого алгоритма интеллекта человека? Да. Во-первых, непротиворечивое описание всех возможных знаний (опыта, богатства поведения) само по себе в точности равно построению теории всего, в свою очередь, теория всего равносильна описанию элементарного уровня материи. Во-вторых, работа мозга связана с бифуркациями (к примеру, каждое переключение внимания - это переход через точку бифуркации, селективная синхронизация новых ансамблей нейронов на частоте гамма-ритма), то есть напрямую повлиять на ход мышления может элементарный уровень материи.

И наконец если на наше поведение могут влиять события самого элементарного характера, то "множество вариантов условий", которые должен описывать прямой алгоритм мышления, больше, чем бесконечность, так как элементарный уровень материи непознаваем. То есть для его описания нет слов, не может быть такого языка. Поэтому, например, к происходящему на этом уровне не применима ни одна идея человека - детерминизм, случайность, всё из ничего, ничего из всего, всё из всего и т. д. и т. п.. Другим следствием является то, что идея свободы воли не может быть ни отвергнута, ни подтверждена, ни даже сформулирована. Как бы её ни объяснять, ни детерминизм, ни случайность не подходят, третьего не дано, но в любом случае, как "на самом деле" в мозге происходит выбор, сформулировать невозможно в принципе, так как он связан с элементарным уровнем материи.

Таким образом, сложность поведения человека в прямом алгоритме недостижима в принципе.

Но и обучение ничего принципиально не изменит. Например. Почему вообще требуется обучение? Потому что прямой алгоритм становится слишком сложным, так как требует большого объёма предварительных знаний (природы, общества, человека), включая те, которых ещё нет и не будет. А значит, вероятно, может помочь эвристика. Действительно, по аналогии с мозгом такой эвристикой стала искусственная нейронная сеть, которая находит решение сама в процессе обучения. Но мы не знаем, как в точности она это делает. Как следствие, возникает составляющая отбора. Мы оцениваем уже готовый ответ ИНС, полученный ею неизвестно как, сравнивая его с чем-то нам понятным. Но эта оценка хотя в целом подразумевает менее формальные критерии тем не менее тоже ограничена нашими более или менее точными знаниями, то есть тем, что нам понятно. Но такие знания не отражают всю сложность опыта человека, а даже, наоборот, есть его наиболее простая часть. См. выше - мы мало чего знаем точно. Поэтому за рамками точно понятного, формализованного, того, что можно оценить быстро, время оценки поведения ИНС будет расти, при том, что важность этой оценки будет становиться всё выше, так как чем сложнее система, тем важнее задачи она может решать.

Но возможности нашего мозга остались теми же, будь это написание прямого алгоритма или оценка решений сети. Поэтому уменьшение одного ограничивающего параметра - растущего объёма точных знаний о природе, обществе, человеке, необходимого, чтобы точно представлять алгоритм работы системы, что ограничивает сложность прямых алгоритмов - фактически лишь приводит к росту того же самого параметра, только в новом виде - в виде растущей необходимости всё точнее представлять критерии отбора. То есть опять будет требоваться всё тот же растущий объём точных знаний о природе, обществе, человеке. Как следствие, время каждого нового усложнения искусственных нейронных сетей будет точно так же всё быстрее стремиться к бесконечности, как и время, требующееся на усложнение прямых алгоритмов. Поэтому усложнение ИНС точно так же потеряет всякий смысл задолго до сколько-нибудь близкого приближения к сложности интеллекта человека.

Можно сформулировать иначе. "Понять" - это научиться предсказывать, то есть написать прямой алгоритм явления. Чем меньше понятного, тем больше вариантов возможного, то есть тем больше неопределенность. Прямой алгоритм мышления не имеет смысла, поэтому приближение к нему суть приближение неопределённости к полной, связанной даже не с бесконечным количеством вариантов возможного, а в пределе с их полным отсутствием (в ином случае можно было бы угадать). Как показано выше, ИНС и в целом недетерминированные алгоритмы из-за непонятной работы и потому необходимости отбора тоже находятся "внутри" сказанного, поэтому по мере приближения их сложности к сложности мышления количество вариантов сетей, вариантов их обучения и так далее будет стремиться к полной неопределённости дальнейших путей усложнения ИИ.

Проще говоря, если бы мы знали, как ИНС приходит к решению, то и прямой алгоритм смогли бы написать, сеть была бы не нужна. То есть достижения сети возникают за счёт роста неопределённости в том, как сеть приходит к решению. Рост неопределённости - это рост количества вариантов устройства сети, обучения и т. д.. А с другой стороны происходит рост важности определённости, поэтому увеличение времени, которое в среднем требуется на оценку каждого варианта. Неопределённость требует определённости. И всё это происходит в контексте нашего опыта. Естественно что столкновение этих тенденций произойдёт тоже внутри него, то есть развитие ИИ остановится задолго до достижения сложности ЕИ.

А за рамками хотя бы гипотетически достижимой сложности останется как раз то общее, что недостижимо уже принципиально, то, что делает нас живыми, активными и необратимыми, способными эволюционировать, сознающими и стремящимися к самосохранению. Другими словами, останется наиболее общий уровень мышления, наиболее глубокий уровень материи мозга. Например, как уже говорилось выше, если рассматривать физические проблемы исследования мышления (жизни в целом, ячеек Бенара и т. д.), то вывод будет тем же - по причине связи с бифуркациями действительно окажется, что мышление связано с самым глубоким уровнем материи, но такой уровень материи принципиально непознаваемый, и потому он невыразим ни в каком алгоритме.

Всё, конец. Это и есть предел усложнения ИИ - вначале мы, потом по росту. Без нас ИИ развиваться не может, так как он не диссипативная структура, поэтому его сложность всегда будет лежать глубоко в пределах сложности нашего интеллекта. А на практике приближение к пределу сложности будет выражаться в том, что когда каждое новое усложнение будет требовать всё больше времени. В итоге ИИ навсегда останется нашим помощником, как и все другие устройства.

Сказанное сейчас полностью соответствует приведённым ранее аргументам о том, что алгоритмы - это некоторый итог мышления, а не всё мышление, или про "красноту красного". Или тому общему ограничению, что чем больше поведение системы определяет написанный человеком алгоритм, тем ниже будет её сложность по сравнению с интеллектом человека.

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение05.03.2024, 02:43 
Заслуженный участник
Аватара пользователя


16/07/14
9090
Цюрих
Dicson в сообщении #1631866 писал(а):
Как вы предлагаете оценивать сложность ЕИ
Никак не предлагаю, это Вы предлагаете. А я прошу прежде чем заниматься такими вопросами, продемонстрировать Ваше понятие "сложности" на бытовых примерах. Например на кирпиче.
Фейнман писал(а):
Кирпич - это существенный объект?
Если Вы этого сделать не можете, то я не вижу причин считать, что Ваше понятие "сложности" вообще имеет какой-то смысл, соответственно Ваш тезис ничем не отличается "у ИИ всегда сепульковость будет меньше", соответственно он непонятно что значит, соответственно аргументацию читать бессмысленно.
Dicson в сообщении #1631866 писал(а):
в конечном итоге останется мнение специалистов. Их общее мнение всегда будет в пользу ЕИ - что ИИ ещё его уровня не достиг
Мое мнение (я думаю меня тут можно отнести к специалистам) - что ИИ не умеет решать конкретные задачи. Например считать число слов в предложении. И все известные мне специалисты говорят примерно об этом же.

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение14.03.2024, 23:37 


05/12/14
255
mihaild в сообщении #1631868 писал(а):
Мое мнение (я думаю меня тут можно отнести к специалистам) - что ИИ не умеет решать конкретные задачи. Например считать число слов в предложении. И все известные мне специалисты говорят примерно об этом же.

Зато ИИ в го лучше человека играет, кругозор у него широкий, скорость обобщений. И что же это само по себе значит? Ничего. Кроме того, что с отдельными задачами человека ИИ может справляться и лучше самого человека. Аналогично экскаваторам или калькуляторам. Но в целом, чему бы ещё ИИ ни научился, всегда будет очевидно (специалистам, естественно), что ЕИ сильнее. Подробнее ниже. Многому не научится.

Кстати, я тоже не могу посчитать слова в предложении. Мама мыла раму - это понятно, плюс минус я не ошибусь, а потом надо пальцы загибать, записывать и всё равно это проблема. Так что, если ИИ считать слова научат, то и в этом он человека превзойдёт.

mihaild в сообщении #1631868 писал(а):
А я прошу прежде чем заниматься такими вопросами, продемонстрировать Ваше понятие "сложности" на бытовых примерах. Например на кирпиче.

Я уже приводил определение сложности. Но, если хотите, в его контексте можно пояснить и "на кирпиче". Найдите глину, заместите, сделайте кирпич. Сколько времени это отняло? Шагов, операций? Вот создание СИИ невозможно никакими методами, ни за какое время, никаким количеством операций. Такая это сложная штука. Вопрос только в том, как это доказать. Доказательство в посте выше, а ниже ещё один его вариант.
***

Доказательство того, что ИИ навсегда останется глубоко в пределах сложности ЕИ, невозможно свети к прямому сравнению сложности ИИ и ЕИ. Потому что ни сложность ЕИ, ни максимально возможная сложность ИИ неизвестны и известны быть не могут. Например, я вам уже писал, нельзя определить какую-либо конкретную задачу, которую ЕИ решает, а ИИ в принципе решить не может. Потому что если мы понимаем, как конкретно решается задача (и потому можем "количественно" оценить её вычислительную сложность), то это значит, что мы знаем прямой алгоритм её решения. Но тогда как минимум в принципиальном смысле её сможет решить и ИИ. Собственно, если есть прямой алгоритм, то даже ИИ не нужен.

Но как минимум на практике не все задачи можно свести к прямому алгоритму. Однако прямой алгоритм - это ещё и выражение понимания, так как только прямой алгоритм позволяет точно предсказывать ход событий, что и есть суть "понимания". Как следствие, в отсутствие понимания, в той же степени неопределённым становится представление о сложности задач и сложности систем, которые их решают, то есть уже на этом уровне сравнивать сложность становится затруднительно. Тем не менее, как бы там ни было со сложностью, если прямой алгоритм написать не выходит, то поможет ИНС, которая сама решит задачу в процессе обучения, пусть и не вполне понятным образом.

Иными словами, преимущество искусственных нейронных сетей начинается в тех задачах, которые сложно формализовать. Ни за чем другим ИНС народу не нужны. Но в этом же и недостаток ИНС, задающий границы их применимости, а в сочетании с другими особенностями и границы сложности много ниже сложности ЕИ.

Дело в том, что, продвигаясь в сторону всё более сложных задач, мы фактически двигаемся в сторону задач, которые всё сложнее формализовать, сформулировать. Проще говоря, по мере усложнения задач в них становится всё меньше языка. Но язык - это и условие задачи, и решение, и ответ. А также и устройство системы, которая эту задачу решает, ведь алгоритм работы этой системы, то есть алгоритм того, как система решает задачу, - это тоже язык. Поэтому нет языка - нет ничего. Как следствие, по мере усложнения задач они растворяются в неопределённости, растущей по всем мыслимым параметрам - от представления о задаче до устройства системы, которая сможет её решить. В свою очередь, растущая неопределённость означает, что по мере усложнения задач ИНС тоже начинают выходить за границы своей применимости, как прежде это произошло с прямыми алгоритмами, потому что сложность ИНС в любом случае так или иначе ограничена сложностью нашего языка.

Но языков нет за рамками головы. А в голове язык - это только некоторый итог мышления, а не оно само. Таким образом, всё то, что только может ИИ, всё, что он из себя представляет, - это язык. Но за любым мыслимым языком стоит ЕИ. Который придумал, создал и оценил: выделил в опыте и сформулировал задачу, нашёл её решение - и "понял" результат, то есть встроил его в глобальную стратегию самосохранения. Которая языком полностью невыразима, потому что всё поведение и, следовательно, всё мышление суть самосохранение, но всё мышление языком невыразимо. В итоге сложность ЕИ, который стоит за рамками всех мыслимых языков, невыразима ни в чём, так как качественно больше любой сложности, которую только можно хоть как-то оценить количественно, то есть какими-либо языковыми средствами.

Что и требовалось доказать. Любой ИИ будет принципиально проще ЕИ. И это только в принципе, потому что на практике достижимая сложность ИИ будет ещё меньше и останется глубоко внутри сложности ЕИ. Башенный кран больше человека поднимет, калькулятор быстрее сосчитает, ИИ превзойдёт человека в частных элементах интеллектуальной работы, но начнёт стремительно отставать по мере выхода на уровень поведения человека в целом, то есть самостоятельного построения задач и их решений. И наконец все нынешние аргументы полностью совпадают с приведёнными ранее.

(Ещё по теме)

Важнейшая составляющая интеллекта - способность к обобщению, то есть выводы от частного к общему, от фактов к теории. ИНС это умеет. Но мы умеем это на более глобальном и сложном уровне и делаем это в одном контексте - стремления к самосохранению. Без этого общего нправления ИНС всё равно куда и что обобщать, то есть по своей природе они неадекватны, их поведение бессмысленно, поэтому мы должны ИНС контролировать. А на физическом уровне это означает, что у ИНС нет гомеостаза, среда её только разрушает, то есть мы должны ещё и физически поддерживать созданные нами системы в работоспособном состоянии, ремонтировать их и развивать. Наоборот, и мозг, и организм в целом - это диссипативные структуры, они по свей природе только и делают, что стремятся к самосохранению, возникают скачком, сразу целыми и уже стремящимися и могут эволюционировать.

Зачем организму мозг? Мозг формирует последовательности нервных импульсов, управляющих мышцами, то есть последовательности поведенческих действий. Все действия направлены на гомеостаз, даже когда выбор ухудшает состояние (через тернии к звёздам). Реализован гомеостаз на самом общем физическом уровне, то есть такие системы, как жизнь, целиком представляют из себя эту функцию, а эволюция - это только изменение и усложнение гомеостаза под те или иные условия. Мозг в организме, помимо того, что он его часть, это и ещё один уровень гомеостаза - уровень нервной регуляции. Который состоит в том, что среда в виде сигналов рецепторов и питательных веществ постоянно выводит рекуррентную нейронную сеть мозга из равновесия, она обратно к нему стремится, а стремление такой сети к равновесию выражается в последовательностях нервных импульсов на её выходе, объединённых общим смыслом, то есть в нашем поведении.
***

Ограничение сложности ИИ сложностью ЕИ - это одно из проявлений ограничения самого познание в целом. Естественно, что наличие у познания границ должно как-то влиять на его ход, на знания, эволюцию цивилизации, а значит, можно рассмотреть "футурологические прогнозы", связанные с этим влиянием. Об этом здесь.

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение14.03.2024, 23:48 
Заслуженный участник
Аватара пользователя


16/07/14
9090
Цюрих
Dicson в сообщении #1632871 писал(а):
Я уже приводил определение сложности
Вы не приводили определение сложности, которое позволяет посчитать сложность хоть для чего-то. Пока Вы его не приведете, пытаться читать Ваши простыни про "сложность" бессмысленно.

-- 14.03.2024, 21:51 --

Dicson в сообщении #1632871 писал(а):
преимущество искусственных нейронных сетей начинается в тех задачах, которые сложно формализовать
Это неправда.

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение14.03.2024, 23:53 


05/12/14
255
mihaild в сообщении #1631868 писал(а):
соответственно аргументацию читать бессмысленно.

Если бы аргументация была плохая, вы бы, полагаю, её и без "подсчёта сложности" прочитали.

Так что... надо брать. )

-- 14.03.2024, 23:58 --

mihaild в сообщении #1632873 писал(а):
Это неправда.

Вы же не читали?

Впрочем, обоснуйте. Если легко формализовать, почему бы прямой алгоритм не написать? Всё же формализовано, осталось только посчитать.

 Профиль  
                  
 
 Re: Симуляция животных по Outer
Сообщение15.03.2024, 00:09 
Заслуженный участник


20/08/14
11687
Россия, Москва
Далеко не всё что формализовано можно легко посчитать. Некоторое нельзя посчитать в принципе, хоть оно и полностью формализовано. И уж тем более ещё для меньшего числа случаев известен прямой алгоритм. За примерами смотрите почти любую нерешённую математическую проблему: полностью формализовано и часто достаточно просто, доказать не могут.

Dicson в сообщении #1632871 писал(а):
Вот создание СИИ невозможно никакими методами, ни за какое время, никаким количеством операций. Такая это сложная штука.
"Никогда не говори никогда"(с) агент 007, уточню: если не можешь этого доказать строго математически (словесные околофилософские кружева не котируются вообще). Вы - не можете. Даже формулу записать. Даже входящие в неё понятия строго определить. А значит и доказать невозможность чего-либо Вы тоже не можете, в принципе.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 203 ]  На страницу Пред.  1, 2, 3, 4, 5, 6 ... 14  След.

Модератор: Модераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group