Почему предсказание следующего токена - это интеллект

[Anton_Peplov]

realeugene в сообщении #1724369 писал(а):

Термин "неопределённо широкий" не тождественен термину "неограниченный".

Действительно, не очень ясно, что такое "неопределенно широкий" и почему у человека уже "неопределенно широкий", а у Клода еще нет. Этим мне и не нравятся разговоры про "сильный" и "слабый" ИИ - расплывчастостью определений.

Тем не менее есть круг задач, которые успешно решает большинство людей, но не решают LLM. В частности, координация движений. Есть попытки приспособить LLM к управлению подвижными роботами, но результаты пока скромные. Что может быть связано с архитектурой LLM, а может быть - просто с нехваткой датасетов. Одна из причин их успехов в задачах t2t - что текста им скормили десятки, а то и сотни, терабайт. Сенсомоторных данных с конкретной модели подвижного робота в таком количестве просто нет. Человек тоже не сразу научается ходить и даже просто фокусировать взгляд. Возможно, будь у нас нужные датасеты в нужном количестве, LLM уже ходили бы ножками. А возможно, и нет. Архитектура тоже важна. Распознавание изображений хорошо заработало, когда придумали сверточные нейросети, подсмотрев архитектуру у зрительных зон мозга. Несмотря на разворот к мультимодальности, LLM изначально создавались для задач t2t, и это может накладывать ограничения на их возможности. Как, впрочем, на когнитивные возможности человека (в частности, объем внимания, скорость абстрактного мышления и утомляемость от него) накладывает существенные ограничения тот факт, что эволюция создавала мозг не для задач t2t.

realeugene в сообщении #1724369 писал(а):

Не всем дано изучить квантовую механику, например.

Некорректная аналогия. ИИ не может выбирать, усвоить ли ему квантовую механику. Что есть в выборке, тому и учится. А человек просто не хочет учиться тому, что ему не интересно. Если бы мы жили в мире, где убивали всех, кто к двадцати годам не усвоил стандартный физфаковский курс квантовой механики, то, предположу, практически все нейротипичные люди выжили бы. За всеми этими "мне не дано" и "я гуманитарий" обычно скрывается "я еще в пятом классе решил, что математика - какая-то фигня скучная, и с чего бы мне сейчас пересматривать это решение, если мне и так хорошо".

realeugene в сообщении #1724369 писал(а):

И только у ИИ его потолок возможностей пока что зависит от затраченных ресурсов без видимых ограничений.

Но пока LLM решает, скажем, математические задачи хуже математика-профессионала, что прекрасно видно по теме «Проверка способности LLM решать математические задачи». Несмотря на то, что математик-профессионал прочитал меньше обучающих текстов. Нужно больше слоев и датасетов? Возможно. А насколько больше? Если в два раза - это еще можно потянуть, а если в тысячу - надо менять архитектуру.

Есть ли вообще профессия, с которой LLM уже справляется лучше человека-профессионала?

[dsge]

Anton_Peplov в сообщении #1724371 писал(а):

Но пока LLM решает, скажем, математические задачи хуже математика-профессионала

Из нерешенных задач, только отдельные, в основном, мало кому интересные, и то со промт создают те же профессионалы. Учебные задачи, если профессионал из другой области математики, пожалуй, решает лучше, поскольку запомнили все учебники и задачники. Профессионалы, к тому же, не делают грубых ошибок.

Anton_Peplov в сообщении #1724371 писал(а):

Есть ли вообще профессия, с которой LLM уже справляется лучше человека-профессионала?

Владелец Nvidia считает, что

Цитата:

Electricians, plumbers, iron workers, technicians, builders—this is your time

https://finance.yahoo.com/sectors/technology/articles/jensen-huang-message-electricians-plumbers-163907387.html
Пора осваивать новые профессии - сантехник, электрик,...

[realeugene]

Anton_Peplov в сообщении #1724371 писал(а):

В частности, координация движений.

Так интеллект, любой - он дорогой и медленный. Координацией движений и у животных занимаются не интеллект, а рефлексы. И характерное время появления первой осмысленной реакции у человека порядка 2 секунд. Если человек не проиграл заранее возможные варианты в сознании и не подготовил свои мозги к более быстрым реакциям.

Anton_Peplov в сообщении #1724371 писал(а):

Сенсомоторных данных с конкретной модели подвижного робота в таком количестве просто нет.

Тем не менее танцующие роботы с отличным балансом уже есть. Они не рассуждают, разумеется, куда им поставить ногу. Так и человек обычно не рассуждает.

Anton_Peplov в сообщении #1724371 писал(а):

Как, впрочем, на когнитивные возможности человека (в частности, объем внимания, скорость абстрактного мышления и утомляемость от него) накладывает существенные ограничения тот факт, что эволюция создавала мозг не для задач t2t.

А человеческий мозг развился не одновременно с языком? Язык со встроенной в него логикой всё же ключевой инструмент человеческого сознания.

Anton_Peplov в сообщении #1724371 писал(а):

Если бы мы жили в мире, где убивали всех, кто к двадцати годам не усвоил стандартный физфаковский курс квантовой механики, то, предположу, практически все нейротипичные люди выжили бы. За всеми этими "мне не дано" и "я гуманитарий" обычно скрывается "я еще в пятом классе решил, что математика - какая-то фигня скучная, и с чего бы мне сейчас пересматривать это решение, если мне и так хорошо".

Интересная аналогия с LLM: недостаточно хорошие варианты весов стирают.

Anton_Peplov в сообщении #1724371 писал(а):

Но пока LLM решает, скажем, математические задачи хуже математика-профессионала, что прекрасно видно по теме «Проверка способности LLM решать математические задачи» .

Этот форум всё-таки не показатель реально достигнутого прогресса. Вот в программировании (закрытые неопубликованные) LLM находят дыры в коде и пишут эксплойты для них уже эффективнее людей. И в вопросах, в которых они могут уже конкурировать с людьми, они достигают результата гораздо дешевле. Не говоря о том, что кругозор любой LLM гораздо шире человеческих специалистов. Они только пока что не достигли уровня человеческого специалиста в каждой области.

[Mihaylo]

realeugene в сообщении #1724373 писал(а):

Они только пока что не достигли уровня человеческого специалиста в каждой области.

Нужно говорить не про отдельного человеческого специалиста, а про цивилизацию специалистов в целом тогда уж. А ведь AGI - это только про одного человека. Задача успешно перевыполняется и переосмысляется, я бы сказал. Иными словами, сильные, слабые, общие интеллекты - термины потеряли свою первоначальную значимость.

[nnosipov]

realeugene в сообщении #1724373 писал(а):

Вот в программировании (закрытые неопубликованные) LLM находят дыры в коде и пишут эксплойты для них уже эффективнее людей.

Вот и прекрасно. Но с математикой на данный момент все не так радужно, хотя, безусловно, прогресс есть. С каким удовольствием я задавал бы интересующие меня математические вопросы этим LLM, если бы был уверен, что получу на них правдивый ответ. Но такой уверенности нет, я уверен лишь в том, что их ответ будет всего лишь правдоподобным, а правильный он или нет, все равно придется решать мне самому. И частенько бывает (на данный момент), что ответ-то неправильный (в частности, я вижу дыры в доказательстве, а LLM их не видит).

[Anton_Peplov]

realeugene в сообщении #1724373 писал(а):

Так интеллект, любой - он дорогой и медленный. Координацией движений и у животных занимаются не интеллект, а рефлексы.

Психологи не единодушны в том, что следует называть интеллектом человека. Вот как определяет интеллект Большой психологический словарь под ред. Мещерякова и Зинченко:

Цитата:

ИНТЕЛЛЕКТ (англ. intelligence; от лат. intellectus — понимание, познание) — 1) общая способность к познанию и решению проблем, определяющая успешность любой деятельности и лежащая в основе др. способностей; 2) система всех познавательных (когнитивных) способностей индивида: ощущения, восприятия, памяти, представления, мышления, воображения; 3) способность к решению проблем без проб и ошибок «в уме» (см. Инсайт). Понятие И. как общая умственная способность применяется в качестве обобщения поведенческих характеристик, связанных с успешной адаптацией к новым жизненным задачам.

Как видим, в смысле 2) в интеллект включается даже ощущение и восприятие, которое мы в быту интеллектом не называем. Координация движений плохо подходит к определению, данному Мещеряковым и Зинченко. Но вот есть такой авторитетный психолог Говард Гарднер, автор теории множественного интеллекта (Theory of multiple intelligences). Среди компонентов интеллекта, которые он выделил, есть и телесно-кинетический интеллект. Т.е. буквально координация движений. Да, в основе которой лежат рефлексы, ну и что? Наших родных сеченовцев послушать, так в основе всей высшей нервной деятельности лежат рефлексы. Впрочем, оппоненты Гарднера говорят, что он просто инспользует слово "интеллект" как синоним слова "способность".

Что касается термина "искусственный интеллект", то он имеет слабое отношение к пониманию интеллекта в психологии. О происхождении термина я говорил на первой странице:

Anton_Peplov в сообщении #1724264 писал(а):

Исторически термином "искусственный интеллект" были названы задачи, с которыми человек справлялся лучше (тогдашних) компьютеров из-за того, что никто не знал хороших алгоритмов для их решения, и, соответственно, не мог их запрограммировать. В частности, это распознавание и генерация образов, обработка естественного языка, игра в шахматы и т.д. Времена существенно изменились, термин остался.

Задача координации движений робота и поныне общепринято относится к области ИИ.

realeugene в сообщении #1724373 писал(а):

Тем не менее танцующие роботы с отличным балансом уже есть. Они не рассуждают, разумеется, куда им поставить ногу. Так и человек обычно не рассуждает.

Есть, но они не LLM, а Вы начали разговор об LLM. Конечно, человек о языке тоже не мозжечком думает. Если бы собрать под одной коробкой лучшие системы координации движений, компьютерного зрения и т.д., и добавить LLM для вербального мышления - тут и вышло бы что-то весьма похожее на AGI.

realeugene в сообщении #1724373 писал(а):

А человеческий мозг развился не одновременно с языком? Язык со встроенной в него логикой всё же ключевой инструмент человеческого сознания.

Наверное, надо пояснить, что я имел в виду, говоря, что мозг эволюционировал не для задач t2t. Если кратко: мозг старше мышления, мышление старше языка, язык старше абстрактного мышления. Абстрактное мышление - самая эволюционно молодая из функций мозга. Из всех своих функций именно к абстрактному мышлению мозг меньше всего успел приспособиться. Поэтому оно такое утомительное. Поэтому и в возрастном развитии человеческого детеныша возникает позже наглядно-действенного и наглядно-образного мышления. И, кстати, существенно позже освоения языка.

Теперь подробнее. Человеческий мозг - это очень сложная штука, разные части и функции которого развились в разное время. Например, распознавание зрительных образов, которое общепризнанно входит в область ИИ, а согласно варианту 2) определения Мещерякова и Зинченко, и в область человеческого интеллекта, есть у всех животных с глазами. Кроме того, 80% нейронов мозга приходится на мозжечок, главная функция которого - координация движений, их планирование и моторная память. Наконец, из книг приматолога Франса де Вааля Политика шимпанзе и Истоки морали можно узнать, как шимпанзе решают задачи довольно сложного социального взаимодействия, не имея языка. Наши предки начали решать те же задачи, еще даже не входя в род Homo, и, согласно гипотезе макиавеллевского интеллекта, именно социальные задачи спровоцировали положительную обратную связь между развитием неокортекса и эволюционным успехом (самое сложное, с чем имеет дело человек - это другой человек).

Очевидно, что усложнение человеческого общества, мозга и звуковой коммуникации шли рука об руку. Широко известен список признаков человеческого языка, составленный Чарльзом Хоккетом (этот список, см., например: С. Бурлак. Происхождение языка. Факты, исследования, гипотезы. Гл. 1.). У какого человеческого вида впервые возникла коммуникация, сочетающая все эти признаки, мы достоверно не знаем. Краткий, но очень содержательный обзор исследований по этому поводу см. в той же книге Бурлак, гл. 3. Но этот вид, вероятно, уже имел весьма развитый мозг по сравнению с общим предкам человека и шимпанзе.

Роль языка даже в современном человеческом мышлении важна, не абсолютна, как я уже говорил в другой теме:

Anton_Peplov в сообщении #1715390 писал(а):

Поток слов естественного языка - это речь, внешняя или внутренняя. Внутренняя речь - это один из способов мышления. Когда мы повторяем про себя стихотворение, или спорим с воображаемым оппонентом - это именно внутренняя речь. Но когда мы обдумываем, сколько брать водки на пятерых, или как доказать теорему, или как повернуть стол, чтобы он прошел в дверной проем - наше мышление почти наверняка несводимо к потоку слов естественного языка. Аргументы за это, от лингвитстических наблюдений до результатов экспериментов, на научно-популярном уровне можно найти в книге Стивена Пинкера Язык как инстинкт, гл. 3 Мыслекод.

Какими способами информация представлена в нашей голове в процессе мышления - это отдельный вопрос. Почти наверняка этих способов больше одного. Есть гипотеза о языке мышления (language of thought), или ментальном языке - языке, похожем на естественный, но отличающемся от него в нескольких важных отношениях. Именно его Пинкер называет "мыслекодом". В то же время есть и, скажем так, "визуальное мышление": когда нам нужно мысленно повернуть стол, мы именно что поворачиваем стол с помощью визуального воображения, похоже, не кодируя это действие никаким языком, сколько-нибудь похожим на естественный (откуда ученые это знают, см. в той же главе Пинкера).

[realeugene]

А Стивен Хокинг обладал интеллектом?

-- добавлено через 5 минут --

dsge в сообщении #1724372 писал(а):

Учебные задачи, если профессионал из другой области математики, пожалуй, решает лучше, поскольку запомнили все учебники и задачники. Профессионалы, к тому же, не делают грубых ошибок.

Но прогресс огромный. Всего год назад ChatGPT строил мне GF(36). Сейчас уже отказывается.

Передовые LLM, определённо, уже решают математические задачи лучше среднего человека.

[MoonWatcher]

realeugene
Передовые LLM - это уже уровень талантливого, если не гениального, аспиранта. Ему не хватает самостоятельности - он почти не способен отличить правильное решение от неправильного, нуждается в руководстве и контроле. Но уже здесь и сейчас сильнейшие математики планеты делают с помощью ИИ маленькие математические открытия. И роль LLM сводится именно к генератору оригинальных идей. Что не отменяет непроходимую тупость тех же самых LLM (точнее, если судить по моему личному опыту, их бесплатных версий) в некоторых задачах, с которыми и первоклассник справится. Возможно эта тупость обусловлена в том числе неспособностью LLM к самоконтролю. И не исключено, что эта проблема решается посредством взаимодействия агентов.

[dsge]

MoonWatcher в сообщении #1724400 писал(а):

Передовые LLM - это уже уровень талантливого, если не гениального, аспиранта.

Откуда вы знаете уровень "талантливого, если не гениального, аспиранта"? Вы руководили когда-нибудь аспирантом? Вы были когда-нибудь аспирантом? Вы видели когда-нибудь аспиранта?

[MoonWatcher]

ozheredov в сообщении #1724338 писал(а):

В плане понимания я не вижу разницы между генерирующим направление полета кирпичом, генерирующим следующий ход в партии Стокфишем и генерирующей строку текста нейронкой. Если Вы объясните мне - буду благодарен. В бэкпропах (Дедекинду из соседней темы пламенный привет), софтмаксах, кросс-энтропиях и таком прочем худо-бедно разбираюсь, так что если надо будет углубляться в техподробности - я с Вами.

Ключевое отличие - текущее внешнее воздействие, именно оно определяет движение кирпича (бросок, сила гравитации). Тогда как Стокфиш или генератор текста действуют сами. На них БЫЛО оказано воздействие, но раньше - здесь и сейчас это самостоятельные агенты. Функциональным же пониманием я бы назвал адекватное (изначально заданным установкам) поведение таких агентов - ведущие к выигрышу ходы Стокфиша, решение сформулированной пользователем задачи генератором текста и т.д. Внешне, по результату, это выглядит как понимание - ну хотя бы потому, что игра в шахматы или решение задачи у нас сопровождается чувством, которые мы называем пониманием. Ключевую роль в нашем собственном опыте играет именно чувство - внешне наше "осмысленное" поведение ничем от хорошего ИИ не отличается. ИМХО это все та же "трудная проблема сознания".

-- добавлено через 29 минут --

dsge в сообщении #1724402 писал(а):

Откуда вы знаете уровень "талантливого, если не гениального, аспиранта"? Вы руководили когда-нибудь аспирантом? Вы были когда-нибудь аспирантом? Вы видели когда-нибудь аспиранта?

Ответил в более подходящей теме.

[mihaild]

MoonWatcher в сообщении #1724403 писал(а):

Ключевое отличие - текущее внешнее воздействие, именно оно определяет движение кирпича (бросок, сила гравитации). Тогда как Стокфиш или генератор текста действуют сами. На них БЫЛО оказано воздействие, но раньше - здесь и сейчас это самостоятельные агенты .

На действия кирпича влияет его состояние (скорость) и внешние условия (гравитация и сопротивление воздуха). На действия нейронки влияют состояние (веса) и внешние условия (вход). В чём разница?

[MoonWatcher]

mihaild
Пожалуй, в сложности и вытекающей из него непредсказуемости. На людей тоже влияют внешние факторы, вплоть до оспаривания свободы воли. Но тем не менее мы - агенты, как и нейронка. Наше внутреннее состояние, даже если оно всецело определяется внешними факторами, задает нашу собственную "траекторию" несколько сложнее и непредсказуемее, чем внутреннее состояние кирпича.

[Anton_Peplov]

realeugene в сообщении #1724398 писал(а):

А Стивен Хокинг обладал интеллектом?

В рамках модели Гарднера, болезнь отняла у Хокинга телесно-кинетический интеллект, оставив остальные виды/компоненты интеллекта.

[realeugene]

Anton_Peplov в сообщении #1724417 писал(а):

realeugene в сообщении #1724398 писал(а):

А Стивен Хокинг обладал интеллектом?

В рамках модели Гарднера, болезнь отняла у Хокинга телесно-кинетический интеллект, оставив остальные виды/компоненты интеллекта.

Чем это отличается от продвинутой LLM?

И ещё вопрос. Обладает ли интеллектом кишечник?

-- добавлено через 2 минуты --

MoonWatcher в сообщении #1724403 писал(а):

Ключевое отличие - текущее внешнее воздействие, именно оно определяет движение кирпича (бросок, сила гравитации). Тогда как Стокфиш или генератор текста действуют сами. На них БЫЛО оказано воздействие, но раньше - здесь и сейчас это самостоятельные агенты.

Не. В рамках ОТО кирпич летит по геодезической. Никаких воздействий.

[MoonWatcher]

realeugene
А чем искривление пространства не воздействие?