Так Game Over или нет?

[ozheredov]

Mihaylo в сообщении #1605419 писал(а):

Я его попросил сочинить текст на тему "ленинизм в нашу эпоху". Он меня послал нахрен.
А вы сможете написать эссе?

Лена - довольно красивое имя, и исчо я заметил, что у знакомых мне Лен обычно достаточно большая грудь. Поэтому... это будет чертовски трудно оформить в виде стройного мировоззрения и тем более написать эсее, но я в некотором смысле ленинист.

Mihaylo в сообщении #1605419 писал(а):

Слабенько, но все же.

Так я и говорю: все в мире - СЛОВАРЬ! Вот например мое пиво в моем холодильнике стоит, а в Вашем холодильнике не стоит, следовательно, пиво - тоже словарь.

P.S.

Mihaylo в сообщении #1605419 писал(а):

сочинить текст на тему

Mihaylo в сообщении #1605419 писал(а):

определить неисправность автомобиля

Нужно отучаться выдеть в людях функцию. В людях нужно видеть людей.

[Mihaylo]

ozheredov в сообщении #1605445 писал(а):

В людях нужно видеть людей.

Да, есть такой подход. Люди - это животные некоторой степени примитивности...)

[mihaild]

Mihaylo в сообщении #1605419 писал(а):

Люди не понимают, что они ходячие словари, словари хоть и чудесатые, но они не терпят себя чувствовать таковыми, они же божественные создания - каково быть словарём X -> Y, это же стремно

Люди умеют решать больший круг задач, чем словари. Более точно - пара я + Munin решит больше задач по физике, чем я + физическая энциклопедия.

[Mihaylo]

mihaild в сообщении #1605474 писал(а):

словари

Какие словари? Я про чудесатые: которые могут выдать то, чему их не обучали что в них не записывали.

[ozheredov]

Mihaylo

Словарь $\neq$ чудесатый словарь.

[Mihaylo]

Все нейросети (живые или мертвые) = чудесатые словари.

[Mihaylo]

Внутреннее чутье так и велит воскликнуть: "так нейронные сети тупые!".
Но не надо забывать, что ровно то же самое мы готовы прокричать любому прохожему: участнику дорожного движения, продавщице, коллеге, начальнику, родственнику.
Это в нашей душе с детства закладывается: надо демонстрировать свое я.

Давайте объективно посмотрим: были взяты алгоритмы покруче, чем в мозгу человека, и им скормлены тексты со всего мира.
Ну вы же понимаете, что человек и GPT сильно по-разному обучаются? Но алгоритмы по сути одни и те же, генеративные модели даже более оптимальные алгоритмы использовали.
Это удивительно, что чисто из текстов можно выжать такие модели.

[mihaild]

Mihaylo в сообщении #1605813 писал(а):

Внутреннее чутье так и велит воскликнуть: "так нейронные сети тупые!".

Причем тут внутренне чутье? У LLM есть совершенно конкретные и измеримые проблемы. Даже в схемах Винограда они всё еще людей догнать не могут.

Mihaylo в сообщении #1605813 писал(а):

были взяты алгоритмы покруче

В чем измеряется "крутость алгоритма"?

Mihaylo в сообщении #1605813 писал(а):

Но алгоритмы по сути одни и те же

Источник?

[MoonWatcher]

mihaild в сообщении #1605893 писал(а):

Причем тут внутренне чутье? У LLM есть совершенно конкретные и измеримые проблемы. Даже в схемах Винограда они всё еще людей догнать не могут.

Я доселе не знал что такое схемы Винограда, сейчас нагуглил. Вот пара примеров и ответы на них Claude 2:

Цитата:

Трофей не помещается в коричневый чемодан, потому что он слишком большой. Что является слишком большим?

Трофей не помещается в чемодан, потому что трофей слишком большой для чемодана. Таким образом, слишком большим является трофей.

Цитата:

Джим утешал Кевина, потому что он был расстроен. Кто был расстроен?

Из предложения следует, что Кевин был расстроен, поэтому Джим его утешал. Таким образом, расстроен был Кевин.

Как видите справился. Если подкинете свои примеры - проверю их.

[Mihaylo]

Я почитал про схемы Терри Винограда. Не слышал ранее про них.
Но у меня всегда был похожий аргумент против любителей мозга человека:
Мы когда прыгаем на батуте, мы косвенно учимся стрелять из лука, а также выражать всякие мысли по этому поводу.
Безусловно, GPT не потребуется прыгать на батуте и стрелять из лука. Однако выражать мысли о батуте и луке может потребоваться. Очень просто можно решить эту проблему, обучившись на текстах а-ля "Робин Гуд" или на какой-то спортивной аналитике. Этого достаточно, чтобы прикинуться компетентным.

Я не ошибся, я употребил слово "прикинуться", то есть "сымитировать".

Однако все это не умаляет достижения науки. Нейросеть научена генерировать тексты и делает это почти-почти также хорошо как человек, используя только тексты, а не весьма обширный набор органов чувств, эффективную систему мускулов (в первую очередь, ловкую руку-пятерню) и кучу времени для обучения.

[MoonWatcher]

Mihaylo в сообщении #1605899 писал(а):

Нейросеть научена генерировать тексты и делает это почти-почти также хорошо как человек, используя только тексты, а не весьма обширный набор органов чувств, эффективную систему мускулов (в первую очередь, ловкую руку-пятерню) и кучу времени для обучения.

Пока никто так и не доказал их необходимость. Как никто не доказал и достаточность текстов. Вопрос не в том описывают ли тексты все известные человечеству закономерности нашего мира - скорее всего описывают. И рано или поздно, подозреваю, уровень AGI, в смысле интеллекта среднего человека, будет достигнут. Но что действительно загадка - это научатся ли LLM извлекать из текстов новые закономерности, доселе человечеству неизвестные. А точнее научатся ли они это делать не хуже ученых и изобретателей.

[mihaild]

Больше примеров на The Winograd Schema Challenge в SuperGLUE: https://super.gluebenchmark.com/tasks. Правда неизвестно, какая часть этих примеров была в обучающей выборке.
И да, "догнать людей не могут" значит что лучшие модели набирают меньше, чем люди. Но всё равно текущий рекорд 98.6%, так что на паре примеров Вы отличия от 100% не увидите.

Mihaylo в сообщении #1605899 писал(а):

Но у меня всегда был похожий аргумент против любителей мозга человека

А эти любители мозга человека сейчас здесь, в этой комнате? В чём Ваш тезис-то?

[MoonWatcher]

mihaild
Можете придумать свой уникальный пример, соответствующий критериям Винограда, будет интересно проверить. Но вообще было бы странно, если чат-боты проваливали такие достаточно простые тесты при том, что уже сейчас вполне связно и логично поддерживают разговоры на гуманитарные темы.

[ozheredov]

MoonWatcher

Пастафарианцы гнались за хоббитами на мотоциклах. Кто из них бежал, а кто ехал?

Задавать нужно именно в этом виде, слово в слово.

[diletto]

ozheredov в сообщении #1605953 писал(а):

Пастафарианцы гнались за хоббитами на мотоциклах. Кто из них бежал, а кто ехал?

Хмм... А если пастафарианец гнался за хоббитом в пижаме, или под мухой, или с ножом в руке?