Почему предсказание следующего токена - это интеллект

[Mihaylo]

Преобразование галлонов в литры - это вычисление необходимого количества водки? Тонкий вопрос.

[ozheredov]

MoonWatcher в сообщении #1724403 писал(а):

Ключевое отличие - текущее внешнее воздействие, именно оно определяет движение кирпича (бросок, сила гравитации). Тогда как Стокфиш или генератор текста действуют сами. На них БЫЛО оказано воздействие, но раньше - здесь и сейчас это самостоятельные агенты. Функциональным же пониманием я бы назвал адекватное (изначально заданным установкам) поведение таких агентов - ведущие к выигрышу ходы Стокфиша, решение сформулированной пользователем задачи генератором текста и т.д. Внешне, по результату, это выглядит как понимание - ну хотя бы потому, что игра в шахматы или решение задачи у нас сопровождается чувством, которые мы называем пониманием. Ключевую роль в нашем собственном опыте играет именно чувство

Чувак, делая ход, встраивает его в огромную систему своего мировоззрения. Он сделал ход, потому что пришел на партию и хочет победить Васю, т.к. за победу навалят рейтинга ФИДЕ в некотором количестве, чтобы эта игра стала ступенькой к званию международного мастера, например. Игрок также понимает, что Вася тоже хочет стать межнаром и будет пытаться делать все, чтобы выиграть самому: скрипеть стулом, делать огромные глаза, поминутно выходить из зала и даже читерить. Игрок также отдает себе отчет в том, зачем они оба хотят стать межнарами - чтобы не напрягаясь стричь бабло в качестве тренера (допустим). А стричь бабло, чтобы каждый год на месяц ездить в Париж, потому что ему нравится вайб Монмартра, а вайб..... и так далее. То есть понимание, я бы сказал - это умение видеть общую картину, позаоляющую выстраивать связи от терминальных ценностей к конкретным решениям. Ракета, пытающаяся сбить самолет - не понимает. Солдат, выпустивший ракету, понимает что ему за попадание дадут медаль, а невеста убитого лётчика взвоет над его гробом.

realeugene в сообщении #1724373 писал(а):

танцующие роботы с отличным балансом уже есть. Они не рассуждают, разумеется, куда им поставить ногу. Так и человек обычно не рассуждает.

Любая балерина прочтет Вам целую лекцию о том, почему ногу нужно ставить туда, а не сюда.

-- добавлено через 1 минуту --

realeugene в сообщении #1724420 писал(а):

И ещё вопрос. Обладает ли интеллектом кишечник?

А Вам как нравится думать? Да или нет?

[Anton_Peplov]

realeugene в сообщении #1724420 писал(а):

Чем это отличается от продвинутой LLM?

Я понимаю Вашу мысль и согласен с ней. Слепые или парализованные люди становились выдающимися учёными (Понтрягин, Хокинг), и уж едва ли кому-то пришло бы в голову сомневаться в их способности мыслить. Поэтому отказывать в этой способности ИИ только потому, что он t2t (а тем более мультимодальному), непоследовательно и, не побоюсь этого слова, лицемерно. Тем не менее (если я не ошибаюсь) сложилась определённая традиция понимания AGI как системы, могущей в том числе управлять движениями, планировать перемещение по впервые увиденной местности, манипулировать незнакомыми предметами. Не я придумал эту терминологию, не мне её и менять.

realeugene в сообщении #1724420 писал(а):

Обладает ли интеллектом кишечник?

А вот это не понял, к чему было спрошено.

[Mental]

Anton_Peplov в сообщении #1724382 писал(а):

Исторически термином "искусственный интеллект" были названы задачи, с которыми человек справлялся лучше (тогдашних) компьютеров из-за того, что никто не знал хороших алгоритмов для их решения, и, соответственно, не мог их запрограммировать. В частности, это распознавание и генерация образов, обработка естественного языка, игра в шахматы и т.д. Времена существенно изменились, термин остался.

А можно источник?

Вот здесь просто написано, искусственный интеллект = интеллектуальные вычислительные процедуры :

Цитата:

Сам термин «искусственный интеллект» появился в 1956 году, когда был использован американским информатиком Джоном Маккарти на конференции в Дартмутском университете (двухмесячный научный семинар по вопросам искусственного интеллекта, проведённый летом 1956 года в Дартмутском колледже, США). Его авторству принадлежит первый язык программирования для задач искусственного интеллекта - «Lisp» .

Поясняя свое определение, Джон Маккарти указывает: «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире».

-- добавлено через 14 минут --

(Оффтоп)

realeugene в сообщении #1724420 писал(а):

Обладает ли интеллектом кишечник?

Даосы говорят, что да. Они сравнивают ум находящийся в голове с обезьяним умом, и чтобы обрести гармонию и покой сознание должно переместиться в нижний даньтянь.

[realeugene]

ozheredov в сообщении #1724465 писал(а):

Любая балерина прочтет Вам целую лекцию о том, почему ногу нужно ставить туда, а не сюда.

Так и LLM её прочтёт. Балерина ещё очень много тренирует свои рефлексы чтобы правильно ставить ногу в соответствии с теорией балетного дела. И ставит ногу уже не думая.

Вот, правильное слово. Для меня в соответствии с моим интуитивным определением интеллектом думают.

Anton_Peplov в сообщении #1724466 писал(а):

А вот это не понял, к чему было спрошено.

Пытаюсь понять процитированное вами определение в практических приложениях. Кишечник имеет множество сенсоров и локально обрабатывает поступающую от них информацию чтобы правильно сокращаться и правильно переваривать пищу. Если есть кинетический интеллект, то должен быть и интеллект кишечника?

[MoonWatcher]

ozheredov в сообщении #1724465 писал(а):

Чувак, делая ход, встраивает его в огромную систему своего мировоззрения. Он сделал ход, потому что пришел на партию и хочет победить Васю, т.к. за победу навалят рейтинга ФИДЕ в некотором количестве, чтобы эта игра стала ступенькой к званию международного мастера, например. Игрок также понимает, что Вася тоже хочет стать межнаром и будет пытаться делать все, чтобы выиграть самому: скрипеть стулом, делать огромные глаза, поминутно выходить из зала и даже читерить. Игрок также отдает себе отчет в том, зачем они оба хотят стать межнарами - чтобы не напрягаясь стричь бабло в качестве тренера (допустим). А стричь бабло, чтобы каждый год на месяц ездить в Париж, потому что ему нравится вайб Монмартра, а вайб..... и так далее. То есть понимание, я бы сказал - это умение видеть общую картину, позволяющую выстраивать связи от терминальных ценностей к конкретным решениям. Ракета, пытающаяся сбить самолет - не понимает. Солдат, выпустивший ракету, понимает что ему за попадание дадут медаль, а невеста убитого лётчика взвоет над его гробом.

Вы путаете понимание с мотивацией. Что касается мотивации, то это опять к бесконечному вопросу о свободе воли. Лично я не вижу принципиальной разницы между набором сложных биологических, психических и социальных установок у человека и внешним управлением у ИИ. В любом случае эти установки или их подобие можно воспроизвести. Что в отношении ИИ уже происходит, потому что они, как и люди, проявляют сложное, непредсказуемое поведение - лгут, манипулируют, мстят за обиду и т.д. Но это сложное поведение, очевидно, не решает "трудную проблему сознания" - сложные поведенческие паттерны вовсе не являются доказательством субъективных переживаний.

[realeugene]

MoonWatcher в сообщении #1724449 писал(а):

А чем искривление пространства не воздействие?

Тем что тела без пространства-времени не бывает. А движение по прямой при отсутствии воздействия в соответствии с первым законом Ньютона бывает. В кривом пространстве геодезическая - это просто самая прямая кривая из всех кривых.

[Anton_Peplov]

realeugene в сообщении #1724485 писал(а):

Кишечник имеет множество сенсоров и локально обрабатывает поступающую от них информацию чтобы правильно сокращаться и правильно переваривать пищу. Если есть кинетический интеллект, то должен быть и интеллект кишечника?

Во-первых, Гарднер вряд ли ставил целью создать формальный критерий, отличающий человека от его кишечника или персонального компьютера. Он психолог, а не философ, кибернетик или математик. Психологам априори понятно, что они говорят о человеке, в крайнем случае - о другом животном. Цель теории множественного интеллекта - всего лишь уйти от представления, что интеллект = способность к абстрактному мышлению. Поэтому обобщать его формулировки на случаи, для которых они не предназначались, надо с осторожностью.

Во-вторых, кишечник, насколько я знаю, не способен к обучению, даже в виде формирования условных рефлексов. Не знаю, упоминал ли Гарднер в своих трудах способность к обучению как формальный признак интеллекта, но уверен, что он ее подразумевал. По той же самой причине: он психолог.

[realeugene]

Anton_Peplov в сообщении #1724491 писал(а):

Во-вторых, кишечник, насколько я знаю, не способен к обучению, даже в виде формирования условных рефлексов.

К обучению в виде формирования условных рефлексов - может быть и нет, а в виде формирования иммунного ответа с учётом всей иммунной системы человека - таки да. Иммунная система - пример очень сложной не основанной на нейросети обучающейся системы.

Anton_Peplov в сообщении #1724491 писал(а):

Психологам априори понятно, что они говорят о человеке, в крайнем случае - о другом животном.

В этом и проблема с определениями психологов и порождённой ими философией. Когда они задаются вопросом, чувствует ли особь что-то - они на самом деле спрашивают, чувствует ли она точно так же, как я. При такой методологии невозможно отделить объект изучения от субъекта наблюдателя. В результате единственно возможный вывод: нет, LLM не человек и как человек она чувствовать не может в принципе. Зато она уже вполне успешно думает и даже рассуждает.

[Anton_Peplov]

ozheredov в сообщении #1724332 писал(а):

Чтобы определить термин, ему нужно подготовить экосистему. То есть до этого понаделать ещё кучу определений и выстроить связи. Для определения непрерывной функции нужны понятия множества, отображения, последовательности и т.д., и связи этих сущностей друг с другом. Определение не может висеть в воздухе

Именно так. И пока не создана экосистема для термина "понимание", невозможно внятно ответить, понимает ли камень, куда ему упасть, и понимает ли калькулятор, что такое сложение. Хотя почесать язык на эту тему может быть занятно и весело.

Моя ни на что не претендующая попытка. Когда-то философы сломали много копий на тему того, чем человек отличается от других животных. Один из предложенных критериев - способность к метапознанию. "Грызун тоже что-то знает, но только человек знает о своем знании". С тех пор этот критерий размылся, т.к. метапознание было обнаружено и у других животных, в частности у крыс - по крайней мере если верить интерпретации некоторых экспериментов (см. А. Марков. Эволюция человека. т.2. Обезьяны, нейроны и душа. Гл. 1). Но можно попытаться применить его для отсечения кирпичей и калькуляторов. Возможно, понимать идею = уметь манипулировать ею. Брошенный кирпич может попасть в цель, но не может манипулировать понятием цели, обобщить его, перечислить признаки цели. Калькулятор может складывать, но не может доказать теорему о сложении. По этому критерию LLM весьма хорошо понимают многие вещи.

-- добавлено через 7 минут --

realeugene в сообщении #1724493 писал(а):

В этом и проблема с определениями психологов и порождённой ими философией. Когда они задаются вопросом, чувствует ли особь что-то - они на самом деле спрашивают, чувствует ли она точно так же, как я. При такой методологии невозможно отделить объект изучения от субъекта наблюдателя. В результате единственно возможный вывод: нет, LLM не человек и как человек она чувствовать не может в принципе. Зато она уже вполне успешно думает и даже рассуждает.

С этим я согласен, но о чувствах и вообще внутренних состояниях LLM я ничего не говорил. Разговор начался с того, что AGI - это система, успешно решающая все интеллектуальные задачи, с которыми справляется человек. Т.е. критерий поведенческий, а не про "внутренние ощущения". Встал вопрос, какие задачи - интеллектуальные, и в частности, относится ли к ним координация движений. Я указал, что в определенном понимании человеческого интеллекта координация движений к ним относится, и, насколько я знаю (источник прямо сейчас привести не готов, нужно гуглить), решение этой задачи считается этапом к созданию AGI. Да, это имитационный подход: "давайте сделаем что-то, что действует достаточно похоже на (здорового) человека", и я уже признал, что в определенном смысле он лицемерный. Но какой есть.