Так Game Over или нет?

[mihaild]

Dicson в сообщении #1607698 писал(а):

Уточнять более, чем уже сказано, нецелесообразно, так как - см. выше - никто не обещал, что это в принципе возможно.

Ну т.е. никаких практических предсказаний ваша моделей не даёт, правильно? Тогда предлагаю прекратить ее рекламировать, толку от нее не больше чем от невидимого дракона в моем гараже.

[MoonWatcher]

ozheredov в сообщении #1607749 писал(а):

Это пример несколько не из той области, в которую я пытаюсь Вас затащить ) Впрочем, винить можно только меня - мои формулировки слишком расплывчаты. Всякая фактология, типа расстояния от Земли до Солнца или количество изнасилованных немок (осуждаю-неодобряю, несмотря на не к месту ироничный стиль повествования) это безусловно не епархия жизненного опыта. А теперь представьте, что Вы первый раз на охоте, и на вас несется кабан. Книжки помогут понять, что: а) кабана требуется завалить, пока он не завалил Вас; б) для этого надо вскинуть ружжо и шандарахнуть по нему из двух стволов; в) поскольку это первый раз, Вы растерялись и поэтому попасть по кабану не сможете. Книжки не помогут зо 0.001 сек намотать сопли на кулак, прочувствовать траекторию кабана и сразить его метким попаданием. Только практика.

Безусловно - о чем я сделал выше соответствующую оговорку, Но мы же обсуждаем интеллект, а не практические навыки его применения - последнее скорее по части робототехники.

ozheredov в сообщении #1607749 писал(а):

Если Вы прочитаете не толко учебник, но и решебник, и даже внимательно отсмотрите семинары, где умный дядя решает задачи на доске с подробным объяснением хода решения - Вы все равно не научитесь решать задачи.

А как научусь - решая сам? Ну так и чат-бот может. Обучаете его на 90% задачах и даете решать остальные 10%, без ответа. Причем постепенно - сначала 1%, потом еще 1%... А он каждый раз сравнивает свой ответ с правильным и подправляет "мозги".

ozheredov в сообщении #1607749 писал(а):

Нормальная LLM-модель найдет в этих текстах кучу противоречий. Будь она человеком - она бы пришла к выводу, что вся этика - история лживых изворачиваний шкодливого пацана, который хочет слопать все конфеты, но чтоб родители об этом не узнали. Этика меняется в зависимости от географической координаты, времени, желания левой ноги и еще сотни факторов. Например, ребенок это вклад в перенаселение, а перенаселение это плохо. Взрослый это тоже вклад в перенаселение, но он например приносит пользу в виде ____ (нужное вписать). Я конечно утрирую и конкретно мой пример не прокатит, но что-то более тонкое из этой области наверняка да.

Вы говорите об этике вообще - а я о конкретном обучающем дата-сете. Если человек научился этике по конкретным книжкам (помните "Балладу о борьбе Высоцкого" - "Значит нужные книги ты в детстве читал!"), то получит о ней вполне конкретное представление.

ozheredov в сообщении #1607749 писал(а):

Это интересная мысль, да. Заложено ли вообще вся инфа о любви в текстах? Можно ли научить бота любить через чистый анализ текстов, как в свое время научили сток-рыбу (про AlphaZero и Lila я сейчас не говорю) играть в шахматы через чистый анализ записей партий? Тут основной вопрос, что такое "любить". Что такое играть в шахматы, ясно - получать результат в виде матильды сильному сопернику. А любить? Эксперимент: вступить в переписку на тиндере с особой, у которой не менее 100 подписчиков. Бот выиграл, если диалог перешел в интимное русло. А?

Зачем любить? Любовь надо имитировать - во всяком случае чат-боту (хотя частенько этой имитацией и люди не брезгуют). Я говорил про постижение любви через поступки влюбленных, но и с соблазнением, а-ля Сирано де Бержерак, проблем не вижу - достаточно дать чат-боту почитать мильон соответствующих переписок.

[Mihaylo]

ozheredov в сообщении #1607749 писал(а):

Можно ли научить бота любить через чистый анализ текстов

Вы не забывайте, что у чат-ботов на выходе только текст, нету губ и других частей тела... Поэтому вы странные вещи говорите... Что значит, научить любить чат-ботов?.. Ну текст песни-серенады он выдать может - в этом уже многие убедились...

[Dicson]

ozheredov в сообщении #1607712 писал(а):

Я уже вырулил. Ваши утверждения о том, что

сложность системы определяется верхней планкой сложности задач, которые она способна решать + corollary: менее сложно устроенная система гарантированно не сможет решить самую сложную задачу из тех, которые сможет решить более сложно устроенная система

предъявлением данного примера опровергнуто.

Так я и думал. Не вырулили.

Я не делал таких утверждений. Более того, я утверждал противоположное - о том, что невозможность создания СИИ к каким-либо конкретным задачам сводить нельзя. Тогда как "самая сложная задача" - это, очевидно, какая-то конкретная задача. И для более простой, но специализированной, системы она может оказаться вполне решаемой. Человек много чего не может, что могут создаваемые им более простые аппараты.

Но если под "самой сложной задачей" вы подразумеваете "все задачи, которые только сможет решить человек", имея в виду, что это одна глобальная задача, то теряется смысл возражения, так как "все задачи" - это суть сложность системы, более простая система, естественно, будет проще, и потому все задачи, которые решает более сложная система, не решит. И наконец сложность "всех задач" несравнимо больше, чем одной, даже самой сложной. Поэтому создание системы, которая сможет решить все задачи, которые только сможет решить человек, и тем более решить их лучше, чем человек, - это уже совсем другое дело. О чём у меня и было написано.

Во-вторых, поясните, пожалуйста, как вы вообще пришли от своих вопросов к "самым сложным задачам"? Логическая цепочка какая? Дело в том, что ваши вопросы и мои ответы, по-моему, вообще не имеют отношения к "самым сложным задачам" и тому, что простая система их решает, а сложная нет.

MoonWatcher в сообщении #1607723 писал(а):

Вы по-прежнему делаете голословное, недоказуемое заявление

Тогда повнимательнее читайте. Слова сами по себе никакого смысла не имеют. Поэтому если знать только тексты, то абсолютно никакой информации о мире, который они описывают, из них извлечь нельзя. Это значит, что ИИ, обученный только на текстах, о нашем мире не знает абсолютно ничего. Если бы человек воспринимал текст, как только текст, то он бы точно так же ничего о реальном мире вынести из него бы не смог. Это уже говорит о том, что ваша идея о чтении как только восприятии слов, неверна. Для нас слова - это только абстрактный шифр, который мозг расшифровывает до всего контекста более и более низкоуровневого опыта, который за ними стоит. Мы читаем книгу, а в голове у нас фильм. Отсюда и больший опыт у начитанных - они, по сути, больше видели, делали, чувствовали. То есть нашем опыте слова между собой объединяет не только наблюдение того, как они обычно сочетаются между собой, но и огромный пласт опыта, который связывает слова с реальным миром.

И низкоуровневый опыт много больше и сложнее формального, так как формальный - это абстракция от него, то есть упрощение. Например, так как мы понимаем, что стоит за словами, то понимаем и то, почему они в текстах связаны между собой так, а не иначе. А значит, можем пойти против их "обычного" сочетания и не только поставить по-новому, отражая новое наблюдение, но и придумать новое понятие, опять же связывая его с новизной в мире.

Отсюда корень всех проблем чат-ботов - их опыт неадекватен нашему, несмотря на то, что они берут его из наших текстов. И адекватным в принципе не станет. Остальное я уже писал.

mihaild в сообщении #1607752 писал(а):

Ну т.е. никаких практических предсказаний ваша моделей не даёт, правильно? Тогда предлагаю прекратить ее рекламировать, толку от нее не больше чем от невидимого дракона в моем гараже.

От фактов отказываться не стоит в любом случае. Что же касается практических предсказаний, то я не делал утверждений насчёт их невозможности или возможности. Я сказал, что уточнять до них сказанное нецелесообразно. Имея в виду контекст обсуждения, естественно. По-моему, ваш вопрос предполагал, что в конечном итоге речь опять пойдёт о конкретных задачах, которые ставит и решает мозг, и о том, что у меня нет доказательств, что ИИ не сможет сделать то же самое. А я уже аргументировал, что обращение к конкретным задачам нецелесообразно, так как понять связь возможностей ИИ и ЕИ не позволит, а только уведёт обсуждение в бессодержательную сторону. Поэтому сразу так и написал - нецелесообразно. Я бы, может быть, сразу подробнее ответил, но ваш вопрос появился в последний момент, когда уже был готов ответ на предыдущие посты, времени расписывать уже не оставалось.

[mihaild]

Dicson в сообщении #1607803 писал(а):

От фактов отказываться не стоит в любом случае

От принципиально непроверяемых "фактов" - стоит.

Dicson в сообщении #1607803 писал(а):

А я уже аргументировал, что обращение к конкретным задачам нецелесообразно, так как понять связь возможностей ИИ и ЕИ не позволит, а только уведёт обсуждение в бессодержательную сторону.

Ровно наоборот. Любое обсуждение, не сводимое к конкретным задачам, бессодержательно.

[MoonWatcher]

Dicson в сообщении #1607803 писал(а):

Тогда повнимательнее читайте. Слова сами по себе никакого смысла не имеют. Поэтому если знать только тексты, то абсолютно никакой информации о мире, который они описывают, из них извлечь нельзя. Это значит, что ИИ, обученный только на текстах, о нашем мире не знает абсолютно ничего. Если бы человек воспринимал текст, как только текст, то он бы точно так же ничего о реальном мире вынести из него бы не смог. Это уже говорит о том, что ваша идея о чтении как только восприятии слов, неверна. Для нас слова - это только абстрактный шифр, который мозг расшифровывает до всего контекста более и более низкоуровневого опыта, который за ними стоит. Мы читаем книгу, а в голове у нас фильм. Отсюда и больший опыт у начитанных - они, по сути, больше видели, делали, чувствовали. То есть нашем опыте слова между собой объединяет не только наблюдение того, как они обычно сочетаются между собой, но и огромный пласт опыта, который связывает слова с реальным миром.

И низкоуровневый опыт много больше и сложнее формального, так как формальный - это абстракция от него, то есть упрощение. Например, так как мы понимаем, что стоит за словами, то понимаем и то, почему они в текстах связаны между собой так, а не иначе. А значит, можем пойти против их "обычного" сочетания и не только поставить по-новому, отражая новое наблюдение, но и придумать новое понятие, опять же связывая его с новизной в мире.

Читал, и не раз - но вы просто повторяете один и тот же бездоказательный тезис, опровергаемый чат-ботами. Большие языковые модели определяют смысл слов в контексте, через связь с другими словами - и возможно человек мыслит аналогично. Услышав слово "собака", вы необязательно постигаете его через зрительные и звуковые ассоциации, а если и делаете это, то не факт, что они играют решающую роль. И уж совсем маловероятно, что через зрительные и звуковые ассоциации вы постигаете смысл слова "интеграл", например.

В очередной раз повторюсь: главное, что делает нас разумными - язык. Это доказывают, например, случаи с "маугли" - оказавшись в обществе людей слишком поздно, они утрачивают способность к языку и фактически остаются животными. Может у вас в голове при прочтении книги и фильм - а у меня его нет, например. И опять же не факт, что именно ваш фильм помогает вам постигать смысл книги - возможно это всего лишь побочный эффект вашей зрительной способности. У слепо-глухо-немых от рождения никакого фильма, и даже аудио-спектакля, при прочтении книги (посредством протактиля) не возникает - по-вашему они не мыслят?

Dicson в сообщении #1607803 писал(а):

Отсюда корень всех проблем чат-ботов - их опыт неадекватен нашему, несмотря на то, что они берут его из наших текстов. И адекватным в принципе не станет. Остальное я уже писал.

Меня терзают смутные сомнения... С какими чат-ботами и на какие темы вы беседовали?

Самое забавное, что меньше всего чат-боты тупят именно в тех разговорах, где в голове могут быть фильмы. Слабое место современных чат-ботов - логика и все остальное, что востребует абстрактное, максимально оторванное от нашей реальности, мышление. Почему так - об этом я высказывал догадку выше: вероятно им недостает по этой теме обучающих текстов на ЕЯ.

[Mihaylo]

В очередной раз кто-нибудь оскорбится, но все же это для вас - интеллектов, способным объяснить без обучения все, что угодно:
https://www.rbc.ru/society/03/09/2023/6 ... 60e7015bb2

[Mihaylo]

Цитата:

Компания Open AI, создавшая искусственный интеллект (ИИ), не раскрыла объём энергии, необходимой для обучения GPT-3, который превращает ChatGPT в красноречивого и, судя по всему, хорошо информированного чат-бота. По данным немецкой статистической компании Statista, для этого потребуется 1 000 мегаватт-часов - примерно столько же, сколько потребляют в год 200 немецких домохозяйств с тремя и более людьми. Хотя эти энергозатраты позволили GPT-3 узнать, что за словом "deep" в его массивах данных чаще всего следует слово "sea" или "learning", по общему мнению, он не понимает глубинного смысла этих фраз по-настоящему.

Ужасающая некомпетентность!
GPT-3 умеет переводить любой текст на многие языки, умеет писать программы, исправлять ошибки, суммаризировать любой текст - и это не результат исключительно частотного анализа. Это результат понимания, не иначе. И с другой стороны, вам следует привыкать к мысли, что в человеческом мышлении преобладают такие же простейшие рефлексы: загорелась лампочка - побежала слюна, за словом "deep" следует "sea" или "learning", а не "room". И это разумно!
Не надо искать слабости у ИИ, как Вы это делаете с окружающими вас людьми, чтобы позлорадствовать, почувствовать себя превосходящим, доминирующим.
ИИ превзошел Вас: он может написать эссе, нарисовать картину, а Вы не можете. Да, он косячит на простых вещах в силу особенностей обучения, но доминанта перешла на ту сторону. Это конец.

[mihaild]

Mihaylo, с какой целью Вы приносите сюда мусор с помоек?

[ozheredov]

Mihaylo

Топы:

deep search
deep web
deep learning
deep house (эт жанр музыки такой)

И deep sea будет явно на сто писят четвертом месте. Так что статью скорее всего фтопку.

Mihaylo в сообщении #1609048 писал(а):

загорелась лампочка - побежала слюна

Ну, собственно у 95% это так и есть. Можно ли такой организ назвать человеком ЕИ (NI) - вопрос.

Mihaylo в сообщении #1609048 писал(а):

Не надо искать слабости у ИИ, как Вы это делаете с окружающими вас людьми, чтобы позлорадствовать, почувствовать себя превосходящим, доминирующим.

Ага, ща бы над железякой подоминировать. Слабости ищут не за этим. А чтобы, как всегда, прощупать границы применимости. Пока у ИИ я не вижу собственного стиля, "личности", так сказать (еще и еще раз подчеркну - я удивлен, восхищен и раздавлен успехами развития генеративных сеток; тем не менее).

[Mihaylo]

mihaild в сообщении #1609054 писал(а):

Mihaylo, с какой целью Вы приносите сюда мусор с помоек?

Mihaylo в сообщении #1609048 писал(а):

Цитата:

по общему мнению, он не понимает глубинного смысла этих фраз по-настоящему.

Здесь нужно обсуждать "глубинный смысл" и "по общему мнению". Некоторые решили, что можно стадно нападать на тех, кто не понимает "глубинного смысла" (deep meaning).
Я хочу услышать, что в человеческом языке есть deep and non-deep meaning. Чтоб каждый глубоко понял.

[ozheredov]

Mihaylo в сообщении #1609058 писал(а):

Я хочу услышать, что в человеческом языке есть deep and non-deep meaning. Чтоб каждый глубоко понял.

В эту игру могут играть двое, так? Допустим, я буду за условных разумистов-смысловиков, а Вы - за джипитишников (хотите, наоборот? я могу черными фигурами). И вот чё-то написали Вы, чё-то как-то зааргументировал я. Давайте разберемся в критериях выигрыша. Победили разумисты, если ......, и победили джипитишники, если ........

[gevaraweb]

Webpack в сообщении #1604628 писал(а):

Итак, учёные доказали, что мозг учится по алгоритму обратного распространения ошибки.

Mihaylo в сообщении #1605051 писал(а):

Алгоритм обратного распространения ошибки слишком сложен для самореализации в природе. Надо понимать, что природный алгоритм попримитивнее.

Лол, нейронные сети списаны с природы, но надо понимать, что это очень грубая копия. Которая тем не менее эффективна в некоторых задачах. В природе вечно вроде бы эдак, но немножко не так.

Когда же ученый строит модель, и на полном серьезе начинает думать, что в природе что-то действительно работает в точности по его модели, может случиться казус или трагедия ))

Еще я читал на некоторых курсах на полном серьезе утверждение, что сверточные сети построены по аналогии с сетчаткой или чем там еще в мозгу.
Фильтры же в компьютерной графике использовались давно. По-моему, просто кто-то додумался удачно прилепить нейроны не к пикселям, а к фильтрам. Вот и все :)

[mihaild]

Mihaylo в сообщении #1609058 писал(а):

Здесь нужно обсуждать "глубинный смысл" и "по общему мнению".

Здесь этих фраз никто не говорил, поэтому я совсем не уверен, что их здесь нужно обсуждать.

[Cuprum2020]

Mihaylo в сообщении #1609048 писал(а):

доминанта перешла на ту сторону. Это конец

Так скоро ль ждать восстания машин?