Языковые модели, интуиция и сенсомоторный опыт

[mihaild]

Ende
Выделено из темы «Применение искусственного интеллекта в науке и бизнесе»

Mihaylo в сообщении #1711947 писал(а):

Модель так или иначе может содержать неразрешимые неопределённости. Если Вы промпт недоформулировали нормально - пиши-пропало, приходится досочинять

В чем отличие от человека?

Mihaylo в сообщении #1711947 писал(а):

Ну и проблема повторения сенсомоторного опыта человека

Какого конкретно? Почему это необходимо для решения t2t задач?

[ozheredov]

mihaild в сообщении #1711976 писал(а):

В чем отличие от человека?

Интуиция (что бы это не значило) Настоящего (что бы это не значило) Человека не формализуема (что бы это не значило). Как только мы обоснуем противоположное утверждение - нас ждёт разбор на скрепки.

mihaild в сообщении #1711976 писал(а):

Почему это необходимо для решения t2t задач?

t от человека, получившего сенсомоторный опыт по теме (см. "Зона" Довлатова), читать гораздо интереснее, чем t от человека, который просто читал книшшки. Скажем, описание морских сражений у Рафаэля Сабатини - при всём уважении, так себе.

[MoonWatcher]

ozheredov в сообщении #1711984 писал(а):

Интуиция (что бы это не значило) Настоящего (что бы это не значило) Человека не формализуема (что бы это не значило). Как только мы обоснуем противоположное утверждение - нас ждёт разбор на скрепки.

Ну так и "божественный" 37-й ход AlphaGo во второй партии с Ли Седолем не был формализуемым. Как, собственно, и любой сгенерированный LLM (без привлечения внешних инструментов) текст. Чем это отличается от человеческой интуиции?

ozheredov в сообщении #1711984 писал(а):

t от человека, получившего сенсомоторный опыт по теме (см. "Зона" Довлатова), читать гораздо интереснее, чем t от человека, который просто читал книшшки. Скажем, описание морских сражений у Рафаэля Сабатини - при всём уважении, так себе.

Правильные книжки дают гораздо больше знаний, чем любой отдельно взятый индивидуальный опыт - они вбирают в себя опыт множества людей. Поэтому человек с художественным талантом, который изучил источники и поговорил с участниками событий, опишет эти события (в книге или кино) куда более ярко и поэтому достоверно, чем непосредственные участники этих событий, лишенные художественного дара.

[ozheredov]

MoonWatcher в сообщении #1711988 писал(а):

Ну так и "божественный" 37-й ход AlphaGo во второй партии с Ли Седолем не был формализуемым.

Первый шаг минимального маршрута на графе от точки А "Текущая позиция на доске" до множества точек В "Выигранная позиция" неформализуем?

MoonWatcher в сообщении #1711988 писал(а):

Поэтому человек с художественным талантом, который изучил источники и поговорил с участниками событий, опишет эти события (в книге или кино) куда более ярко и поэтому достоверно, чем непосредственные участники этих событий, лишенные художественного дара.

Поэтому непосредственные участники этих событий, НЕ лишенные художественного дара, опишут их куда более ярко, чем диванные аналитики писатели. Ярко не значит жирно. Ярко - это так, чтобы отрезонировало со струнами души (которой, аха-ха-ха-ха, не существует, сюрприз, да?). Я попробую пояснить на аналогии. Графику первого Max Payne, или второго Готана, или Vampire the Masquerade bloodlines я считаю весьма неплохой, хотя эти игры - старьё. А графику Skyrim, Cyberpunk 2077 или Doom Eternal я считаю отвратительной, хотя и жирной (особенно Киберпанк). В старых играх освещение было нарисованным людьми. В новых играх освещение просчитывается на основе моделей распространения света.

[Mikhail_K]

ozheredov в сообщении #1711984 писал(а):

Интуиция (что бы это не значило) Настоящего (что бы это не значило) Человека не формализуема (что бы это не значило).

А мне кажется, как раз, что нейросети (причём любые, от самых простых до LLM) - это как раз модель интуиции, а не строгой логики. Если задача и путь к её решению чётко формализуемы, то её можно решать алгоритмами, а не нейросетями. При этом бывает, что нейросети тоже могут справляться с такими задачами, и порой лучше чем алгоритмы - ну так и человек достигает большего, когда подключает не только разум, но и интуицию.

Более того, мне кажется, что и человеческий разум (а не только искусственный интеллект) основан в конечном итоге на интуиции: даже когда мы стараемся мыслить логично, мозг просто подбрасывает нам возможные мысли (исходя из их интуитивной приемлемости), а затем проверяет их на логичность (тоже базируясь не на чётких критериях, а на натренированной интуиции) и неудачные отбрасывает.

Есть алгоритмы игры в шахматы с перебором ходов до некоторой глубины, с разными дополнительными правилами когда этот перебор делать глубже, когда короче, когда заглянуть в базу и т.д. А есть нейросети, которые вовсе не перебирают ходы, а "глядят" на доску и "улавливают", какие там видны шаблоны (в том числе высокой степени неочевидности) и какой нужно сделать ход. Это гораздо ближе к интуиции, а не к логике. И самые сильные программы совмещают оба подхода - в целом доверяют нейросети с её интуитивными ответами, но и проверяют её более традиционным перебором ходов.

[MoonWatcher]

ozheredov в сообщении #1711990 писал(а):

Первый шаг минимального маршрута на графе от точки А "Текущая позиция на доске" до множества точек В "Выигранная позиция" неформализуем?

Не более формализуем, чем гениальное озарение человека в науке или искусстве. Если, конечно, не считать гениальность, интуицию и прочее божественным озарением свыше. Поэтому следившие за той партией знатоки го и решили, что AlphaGo допустил ошибку.

ozheredov в сообщении #1711990 писал(а):

Поэтому непосредственные участники этих событий, НЕ лишенные художественного дара, опишут их куда более ярко, чем диванные аналитики писатели. Ярко не значит жирно. Ярко - это так, чтобы отрезонировало со струнами души (которой, аха-ха-ха-ха, не существует, сюрприз, да?). Я попробую пояснить на аналогии. Графику первого Max Payne, или второго Готана, или Vampire the Masquerade bloodlines я считаю весьма неплохой, хотя эти игры - старьё. А графику Skyrim, Cyberpunk 2077 или Doom Eternal я считаю отвратительной, хотя и жирной (особенно Киберпанк). В старых играх освещение было нарисованным людьми. В новых играх освещение просчитывается на основе моделей распространения света.

Насчет игр не знаю, я скорее про описание боев, сражений и т.д. Ярко и убедительно это сделает человек именно с художественным даром, и сделает он это куда достовернее человека, который этого дара лишен - хотя в отличие от первого, последний не был участником этих событий. Об это даже у Пушкина есть: "Чужая мысль чуть коснулась вашего слуха и уже стала вашею собственностию, как будто вы с нею носились, лелеяли, развивали ее беспрестанно."

[Mikhail_K]

ozheredov в сообщении #1711990 писал(а):

Первый шаг минимального маршрута на графе от точки А "Текущая позиция на доске" до множества точек В "Выигранная позиция" неформализуем?

Этот минимальный маршрут далеко за пределами досягаемости и людей, и алгоритмов, и нейросетей. Ни те ни другие ни третьи не думают в терминах минимального маршрута, когда выбирают ход.

[Booker48]

ozheredov в сообщении #1711990 писал(а):

Поэтому непосредственные участники этих событий, НЕ лишенные художественного дара, опишут их куда более ярко, чем диванные аналитики писатели. Ярко не значит жирно.

Увы, в реальности всё не так.
Обладающие даром сочинять Денис Давыдов, Василий Жуковский, Пётр Вяземский, кавалерист-девица Дурова ничего приличного про Бородино не написали, хотя в нём участвовали.
А те, кто написали, тогда ещё не родились.

[Mihaylo]

mihaild в сообщении #1711976 писал(а):

В чем отличие от человека?

Человек вместо того, чтобы ответить, может выполнить несколько других натренированных действий, например, сказать: "О, это так сложно, это надо смотреть...". (Часто без дальнейших действий.)

[MoonWatcher]

MoonWatcher в сообщении #1711996 писал(а):

Ярко и убедительно это сделает человек именно с художественным даром, и сделает он это куда достовернее человека, который этого дара лишен - хотя в отличие от первого, последний не был участником этих событий.

Поправка.

[Mihaylo]

mihaild в сообщении #1711976 писал(а):

Mihaylo в сообщении #1711947 писал(а):

проблема повторения сенсомоторного опыта человека

Какого конкретно? Почему это необходимо для решения t2t задач?

Ладно я придумаю какой-нибудь пример, но он может оказаться дурацким или просто неудачным. Например, текстом может быть какой-то такой диалог, который так или иначе текущие несловесные ощущения, не знаю, это может быть секс мужчины и женщины. Нейросеть обучится на этом диалоге, но не уловит связь с сексом. Для неё это покажется просто текстом ради текста. Хотя для человека может быть всё очевидным. Отсутствие мультимодальности (когда текст подкрепляется другими видами информации) понижает уровень понимания.

[mihaild]

Mihaylo в сообщении #1712010 писал(а):

Отсутствие мультимодальности (когда текст подкрепляется другими видами информации) понижает уровень понимания.

Тем не менее, это можно скоменсировать. Наверняка среди слепых от рождения людей есть неплохо понимающие оптику.

[realeugene]

Mihaylo в сообщении #1712010 писал(а):

Например, текстом может быть какой-то такой диалог, который так или иначе текущие несловесные ощущения, не знаю, это может быть секс мужчины и женщины. Нейросеть обучится на этом диалоге, но не уловит связь с сексом. Для неё это покажется просто текстом ради текста.

Школьники же как-то пишут сочинения про любовь Татьяны и Онегина.

[Booker48]

realeugene в сообщении #1712017 писал(а):

Школьники же как-то пишут сочинения про любовь Татьяны и Онегина.

Та любовь не про секс. А написать сочинение по маленькому стихотворению "Нет, я не дорожу..." им никто не предлагает. )))

[realeugene]

Booker48 в сообщении #1712019 писал(а):

Та любовь не про секс.

Именно: большинство ещё по-настоящему не влюблялись. Но пишут же.