Так Game Over или нет?

[ozheredov]

diletto в сообщении #1605954 писал(а):

Хмм...

Все правильно мыслите: вопросы Винограда не на лексический разбор предложения, а на умение рассуждать на основе широкого "кругозора". Невозможно понять, у кого нож и кто в пижаме, если ты не знаешь обычаи и нравы пастафарианцев и LORE властелина колец ))

[MoonWatcher]

ozheredov в сообщении #1605953 писал(а):

MoonWatcher

Пастафарианцы гнались за хоббитами на мотоциклах. Кто из них бежал, а кто ехал?

Задавать нужно именно в этом виде, слово в слово.

Claude 2:

Цитата:

Исходя из предложения:

Пастафарианцы - ехали на мотоциклах (глагол "гнаться" в данном контексте означает "преследовать на транспорте").
Хоббиты - бежали (они не могли ехать на мотоциклах, так как за ними гнались).
Таким образом, Пастафарианцы ехали на мотоциклах, а Хоббиты бежали.

Bing:

Цитата:

Пастафарианцы ехали на мотоциклах, а хоббиты бежали.

[ozheredov]

MoonWatcher
Thanks)

[Geen]

ozheredov в сообщении #1605957 писал(а):

LORE властелина колец

Не, не нужно - достаточно знать, что у хоббитов ноги очень короткие...

[diletto]

MoonWatcher
Интересно было бы подсунуть сперва "пастафарианец гнался за хоббитом с громкими проклятьями", а затем "пастафарианец гнался за хоббитом с рыжими усами".

[Mihaylo]

Абсолютно любые факты могут проникать в тексты для больших языковых моделей. Даже инфа о том, что хоббиты всегда ходят ногами. При чем об этом даже я знаю, хотя всего лишь только слышал об этом, смотрел кино, не читал книгу. Кто такие пастафарианцы не в курсе.

[Dicson]

MoonWatcher в сообщении #1605902 писал(а):

Вопрос не в том описывают ли тексты все известные человечеству закономерности нашего мира - скорее всего описывают. И рано или поздно, подозреваю, уровень AGI, в смысле интеллекта среднего человека, будет достигнут. Но что действительно загадка - это научатся ли LLM извлекать из текстов новые закономерности, доселе человечеству неизвестные. А точнее научатся ли они это делать не хуже ученых и изобретателей.

1. Описание не равно тем реальным явлениям, которые описываются. Мы описываем природу, социум, наши чувства и так далее - и все эти тексты описываемым явлениям более или менее не равны, в той или иной степени не адекватны. Для ИИ реальность - это наши тексты, то есть ИИ описывает наши неполные и неточные описания. А так как описание реальности не равно, то описывает, добавляя в это описание неполноты и неточности ещё и от себя.

В итоге тексты ИИ будут описываемой реальности ещё более неадекватны, чем ей неадекватны наши тексты. Иначе говоря, суждения искусственного интеллекта, обученного только на текстах, всегда будут относительно более простыми, плоскими, в том числе более глупыми, неадекватными, бессмысленными, чем суждения человека. О каких-либо самостоятельных научных исследованиях, проводимых ИИ, конечно, в этом случае и речи быть не может, если только в роли простого интеллектуального помощника, каковой роль ИИ в целом и видится.

2. Наблюдая мир, мы можем описать его лишь ограниченно, то есть не полностью, не с абсолютной точностью. Говоря по-другому, мы не можем выявить все закономерности мира, а те, которые выявим, будут проще реальных. ИИ, обучаясь на текстах, сможет выявить в реальном мире ещё меньше закономерностей, чем мы, а те, которые выявит, будут ещё проще тех, которые выявим мы. В том числе их простота будет относительно больше уходить в сторону неадекватности, глупости, бессмысленности.

Каковые пункты мы и наблюдаем в реальности.

[mihaild]

MoonWatcher в сообщении #1605908 писал(а):

Но вообще было бы странно, если чат-боты проваливали такие достаточно простые тесты при том, что уже сейчас вполне связно и логично поддерживают разговоры на гуманитарные темы

Они их не совсем проваливают - набирают 90% и больше. Но людей не догоняют.
https://d-kz.medium.com/evaluating-gpt- ... de030d190d - пишут что GPT4 дает 94.4%
https://arxiv.org/abs/2302.10724 (тут это называется WNLI) - вообще 81.7%.
И не чат-боты обгоняют: https://super.gluebenchmark.com/leaderboard - лучшая модель дает 98.6%. Но люди дают 100%.

-- 21.08.2023, 10:46 --

Dicson в сообщении #1606010 писал(а):

В итоге тексты ИИ будут описываемой реальности ещё более неадекватны, чем ей неадекватны наши тексты. Иначе говоря, суждения искусственного интеллекта, обученного только на текстах, всегда будут относительно более простыми, плоскими, в том числе более глупыми, неадекватными, бессмысленными, чем суждения человека

Non sequitur. Суждения человека, читавшего школьный учебник по физике, но никогда не видевшего грозу, о молнии, будут более точными, чем суждения человека, молнию видевшего, но учебников не читавшего.

Dicson в сообщении #1606010 писал(а):

Каковые пункты мы и наблюдаем в реальности.

Нет, не наблюдаем. Откройте SuperGLUE и обнаружите, что на некоторых треках модели людей уже обогнали.

[MoonWatcher]

Dicson
Ваши доводы противоречат ...факту существования человеческой цивилизации. В её основе - письменность, это самое главное изобретение всех времен и народов. Или по меньшей мере - первая и главная информационная революция. Это доказывает, что письменный формат хранения и описания данных более чем эффективен для приумножения знаний о нашем мире. Возьмем какое-нибудь сложное чувство - любовь, например. Разве его нужно чувствовать самому, чтобы понимать? Да ничего подобного - достаточно прочитать этак с миллион реальных и выдуманных историй, чтобы лучше любой влюбленной пары постигнуть все мыслимые и немыслимые закономерности, сопряженные с этим чувством.

В крайнем случае, да и то вряд ли, ИИ может недоставать визуализации - но и эта проблема скорее всего будет решена посредством обучения на огромной коллекции видео, накопленной человечеством.

А что мы там чувствуем внутри себя, но не можем выразить словами - информация (с точки зрения обучения других) бесполезная.

[diletto]

MoonWatcher в сообщении #1606035 писал(а):

... цивилизации. В её основе - письменность, это самое главное изобретение всех времен и народов. Или по меньшей мере - первая и главная информационная революция. Это доказывает, что письменный формат хранения и описания данных более чем эффективен для приумножения знаний о нашем мире.

Без сомнения. Ежели говорить о внешнем мире.

MoonWatcher в сообщении #1606035 писал(а):

Возьмем какое-нибудь сложное чувство - любовь, например. Разве его нужно чувствовать самому, чтобы понимать? Да ничего подобного - достаточно прочитать этак с миллион реальных и выдуманных историй, чтобы лучше любой влюбленной пары постигнуть все мыслимые и немыслимые закономерности, сопряженные с этим чувством.

А вот тут уже с сомнением...

[MoonWatcher]

diletto
Понимать и чувствовать - разные вещи. ИИ не прочувствует любовь сам - но в совершенстве постигнет все её закономерности. И поэтому лучше любого влюбленного угадает влюблен этот человек или нет, на какие поступки может его толкнуть влюбленность, как долго она продлится, как будет реагировать на отсутствие взаимности, на чужие ухаживания и т.д. Чувствовать для этого порхание бабочек в животе совсем необязательно.

[diletto]

MoonWatcher
Уверенным ни в чём быть не могу, но мне кажется, что в эмоциональной сфере слишком много всякой невербальщины, чтобы так уж надеяться на прогностику по текстам, да ещё и для данного конкретного человека.

[MoonWatcher]

diletto
Возможно, но пока не представляю никаких конкретных примеров, где понимание мира не может обойтись без чувств. В моем понимании чувства (любопытство, боль, страх, любовь/ненависть, удовольствие/отвращение) - это исключительно мотиватор. Который запрограммировать в ИИ, в случае необходимости, совсем не сложно.

[ozheredov]

diletto в сообщении #1606044 писал(а):

мне кажется, что в эмоциональной сфере слишком много всякой невербальщины, чтобы так уж надеяться на прогностику по текстам

Не сбрасывайте со счетов, что прогностику можно иметь (в виду) в двух смыслах:

а) Что почувствую я?
б) Какими будут измеримые (уточнить, кем) результаты.

Если Вам нужно затащить Машку в постель и результат - булева переменная Success/Fail, то на невербальщину (что почувствуете Вы до, во время, после, много после...) по фигу. Если продавану нужно, чтобы Вы купили слона, ему все равно, какие эмоции начать индуцировать в Вашем мозге: Вы купите слона, потому что это престижно, Вы купите слона на слабо, Вы купите слона из-за страха, что на Вас нападут инопланетяне, если Вы не купите слона, и т.д. Так что вполне возможно, что начитавшись текстов, ИИ разберется в матчасти и научится клеить баб в сто раз лучше человека, но при этом информации о настоящих чувствах у него не будет вообще.

[MoonWatcher]

ozheredov в сообщении #1606051 писал(а):

Так что вполне возможно

Чисто теоретически - неизбежно. Но только здесь, пожалуй, уже не обойтись без визуализации - надо видеть реакцию девушки/покупателя на свое красноречие. Выражение лица, взгляд, поза, как держит руки, характер дыхания, паузы между словами, громкость и интонация голоса, и т.д. Причем если в книжках по психологии про это обычно пишут какие-то высосанные из пальца глупости, то обучившись на миллионе реальных видео-примеров, ИИ научится достаточно точно понимать эмоции и на невербальном уровне.